AI

czyli hobby, kultura, sztuka, wścieklizna i w ogóle offtopic...

Moderator: nicpon

Awatar użytkownika
Maciej3
Posty: 4748
Rejestracja: 2008-05-16, 11:36

AI

Post autor: Maciej3 »

Może za bardzo myślę "po ludzku", ale jednak... Gdyby to o mnie chodziło, miałbym obawy by go tak obracać i stać przy nim jak zacznie strzelać.
Ja też bym się czuł nieswojo. Robot musiał być wcześniej dobrze przetestowany.
U nas na uczelni dobrze 30 lat temu chodziła opowieść o gościu, którego robot zabił. Chyba nawet tam na uczelni. Oczywiście nie chodziło o żaden "bunt maszyn". Po prostu był błąd w oprogramowaniu robota przemysłowego. Gość wszedł w pole działania robota a robot się obrócił - zgodnie z programem, aczkolwiek działanie nie było oczekiwane - to był błąd w programie - i gościu nie przeżył. Nie wykluczam, że była to tylko taka opowieść, żebyśmy bezmyślnie nie włazili tam, gdzie naprawdę może się stać krzywda, ale zdarzenie jak najbardziej prawdopodobne.
W przypadku takiego robota z bronią, jak na filmiku, pole do błędów jest znacznie większe. Musieli być naprawdę pewni siebie i swojego produktu.
Historia jest najlepszą nauczycielką życia, bo
Jeszcze nigdy, nikogo, niczego nie nauczyła.
Awatar użytkownika
Peperon
Posty: 6384
Rejestracja: 2010-11-05, 14:52
Lokalizacja: z Krakowa

AI

Post autor: Peperon »

Maciej3 pisze: ...Zakładając, że "nic nie pójdzie nie tak...
Prawo awarii mówi, że jeśli coś może pójść nie tak, to pójdzie na pewno.
Tak więc nie byłbym zbytnim optymistą, bo ludzie z natury nie są źli, ale jest pewien odsetek świń z urodzenia. I oni będą wykorzystywać co tylko się da, żeby innym zrąbać życie przy pomocy AI.
Ludzkość dzieli się na trzy części.
Żywych, zmarłych i tych co na morzu.
Awatar użytkownika
Maciej3
Posty: 4748
Rejestracja: 2008-05-16, 11:36

AI

Post autor: Maciej3 »

W pełni się zgadzam.
Chciałem tylko zaznaczyć, że nawet w bardzo sprzyjającym ( choć moim zdaniem bardzo mało prawdopodobnym ) scenariuszu i tak czekają nas duże zmiany i potencjalne duże niebezpieczeństwa. Ot tyle.

Tak przy okazji - ponoć można sobie brać ten GPT w uproszczonej wersji i jakoś modyfikować pod własne potrzeby. Sam nie robiłem, więc szczegółów nie znam.
W którym wywiadzie słyszałem, że znaleziono na internecie krążący "Chaos GPT", gdzie ktoś zadał AI zadanie "jak najsprawniej wyeliminować ludzkość" ( czy jakoś tak ). To dość w sumie prymitywne jeszcze AI zadało pytanie jaka jest dostępna największa bomba, znalazło Car Bombę i sobie gdzieś na wszelki wypadek zanotowało. Nikt nie wie po co ( ale ja się domyślam ). Potem ten "Chaos GPT" jakoś z sieci usunięto. To chyba w którymś z wywiadów z Draganem, ale nie jestem pewien czy tam usłyszałem o tym.
Nie trzeba było długo czekać na takie posunięcie z odpowiednim ukierunkowaniem AI. Powiedziałbym, że dziwne, że tak późno się pojawiło.
A to tylko początki są i "raczkująca technologia", w mojej opinii taki C64 czy inna "atarynka". co będzie w epoce "smartfonów"?
Historia jest najlepszą nauczycielką życia, bo
Jeszcze nigdy, nikogo, niczego nie nauczyła.
Aldrin
Posty: 46
Rejestracja: 2009-03-21, 14:04

AI

Post autor: Aldrin »

SI ma pewne ograniczenia, wynikające z jej natury. Uczy się określonych warunków i jeśli zetknie się z czymś nieco odmiennym nie wykaże się elastycznością człowieka. Taki przykład:

Sztuczna inteligencja i gra go.
Awatar użytkownika
Maciej3
Posty: 4748
Rejestracja: 2008-05-16, 11:36

AI

Post autor: Maciej3 »

Tu byłbym ostrożny. Albo dodał "nie wykaże się elastycznością JESZCZE"
Przypominam, że przechodzimy okres intensywnego rozwoju AI. Jeden czort wie co będzie za parę lat.
I przy okazji - z tego artykułu - człowiek pokonał super AI, wykorzystując lukę, którą zauważyła inna AI.
Jeszcze raz - zauważyła INNA AI a nie człowiek!
Historia jest najlepszą nauczycielką życia, bo
Jeszcze nigdy, nikogo, niczego nie nauczyła.
Aldrin
Posty: 46
Rejestracja: 2009-03-21, 14:04

AI

Post autor: Aldrin »

Czyli najlepiej spisał się tandem człowiek -maszyna. Sama maszyna nie znalazłaby słabego punktu. To człowiek wskazał czego szukać. Widać tu, że maszyna sama nie znajdzie takiego, inaczej by go nie popełniła. Z drugiej strony SI nie zareagowała na coś, czego dobry gracz by nie przeoczył (szczegóły w tekście).
Awatar użytkownika
peceed
Posty: 1078
Rejestracja: 2019-09-12, 16:25

AI

Post autor: peceed »

Marmik pisze: że w przyszłości procesor taktowany zegarem 100MHz to będzie już sufit rozwoju
Ktoś sobie wymyślił "barierę" w postaci emisji fal radiowych przez procesory ponad 100MHz - nie pykło, a takie artykuły pisano jeszcze na samym początku lat 90. Wymyślił w sensie "wyhalucynował", a nie "wydedukował" używając pojęć z AI.
Maciej3 pisze: A jeśli do tego to AI będzie "tak średnio przyjazne", choćby z powodu "średnio przyjaznych ludzi", którzy będą to AI używać
To największy problem. Już cenzura wspomagana AI uświadamia, że daliśmy małpom brzytwę.
Maciej3 pisze: To chyba w którymś z wywiadów z Draganem
Nie trawię gościa. Bardzo przeciętny fizyk kreujący się w mediach na gwiazdę fizyki teoretycznej, pozer.
Najbardziej szokuje mnie ile rzeczy ogarnia, mając na uwadze ilu nie ogarnia ;)
Aldrin pisze: 2023-06-09, 11:34 SI ma pewne ograniczenia, wynikające z jej natury. Uczy się określonych warunków i jeśli zetknie się z czymś nieco odmiennym nie wykaże się elastycznością człowieka. Taki przykład:
Sztuczna inteligencja i gra go.
No to przyjrzyjmy się:

"Zwycięstwo Pelrine’a dobitnie udowania ograniczenia systemów sztucznej inteligencji, które jak na razie mogą wykonywać ruchy tylko w określonych warunkach, pod kątem których zostały zaprojekowane. Nie mogą wprowadzać innowacji i generalizować w sposób, który łatwo przychodzi ludziom."

a chwilę wcześniej:
"Pelrine wyjaśnił również, że odkryta przez oprogramowanie zwycięska strategia „nie jest całkowicie trywialna, ale nie jest też super trudna" do nauczenia się przez człowieka."
Czyli to komputer wymyślił jak ograć komputer!

"człowiek prawdopodobnie zauważyłby jego zwycięską strategię, ponieważ polegała ona na powolnym łączeniu sznurkiem dużej pętli kamieni, aby otoczyć jedną z grup przeciwnika, jednocześnie odwracając uwagę sztucznej inteligencji ruchami w innych rogach planszy."

"a sama taktyka nie pokonałaby człowieka, ponieważ byłby on w stanie dostosować się do nieznanych mu okoliczności."


I to jest błąd w rozumowaniu. Widziałem bardzo wiele takich oczywistych dla człowieka strategii czy to w szachach czy innych systemach, rozwalających systemy normalnie wygrywające z człowiekiem, i wszystkie polegały na wykorzystaniu pewnych własności geometrycznych (blokowanie, uszczelnianie) z którymi człowiek spotyka się cały czas w swoim życiu. Owszem, człowiek ma zdolności do generalizacji przez tworzenie analogii podczas gdy takie "specjalizowane" sieci/programy oczywiście nie, ale wciąż opiera się na czymś co widział i przetrenował.
Te okoliczności wcale nie są dla niego nieznane! Plansze gier tworzą prymitywny model dyskretny przestrzeni 2d.
A najlepsze jest to, że w wysokowymiarowych przestrzeniach pojawiają się zjawiska kompletnie nieintuicyjne (łamiące proste niżej wymiarowe intuicje).

Jeśli chodzi o sztuczną inteligencję to ktoś kiedyś ładnie powiedział, że nigdy jej nie zbudujemy, bo to ruchomy cel: jak tylko jakiś nowy problem kojarzony z inteligencją ludzką zostaje pokonany to nagle po prostu mamy software który coś robi, a bariera się przesuwa. Systemy logiczne, przetwarzanie języka naturalnego, szachy - to wszystko przestało być domeną AI.
Jednakże takie podejście nie wyklucza osiągnięcia sprawności ludzkiej i wyższej, po prostu zwraca uwagę na zmianę świadomości tego co jest trudne a co łatwe.

W tym momencie już nie mamy żadnych fundamentalnych przewag odnośnie zasad przetwarzania informacji - również wykorzystujemy modele neuronowe. Tylko że my mamy fizyczną implementację a komputery bardziej abstrakcyjną. Wszystko rozbija się o dostępną moc obliczeniową i znalezienie odpowiednich topologii połączeń.
Komputery preferują układy regularne a nasze mózgi bardziej przypadkowe - różnica jest jednakże taka, jak pomiędzy siatkówką a monitorem czy sensorem kamery optycznej - w każdym przypadku da się zakodować równoważny obraz!

Jedynym ciekawym problemem jest kwestia świadomości w kwestii subiektywnego odczuwania - tzn. czy są to "filozoficzne zombie" czy też nie. I coraz bardziej skłaniam się ku temu, że jednak nie. System symulujący działanie mózgu będzie miał subiektywne "odczucie istnienia" - to po prostu jest własność wszechświata.

Mózg ma swoje wewnętrzne detale których sobie nie uświadamiamy - możemy jedynie poznawać to, co jest dostępne dla danych wejściowych.
Komputer z kolei jest nie tyle abstrakcyjną maszyną a fizycznym obiektem którego pewne stopnie swobody i interakcje stanów w nich zawartych są określone przez program komputerowy.
Maciej3 pisze: 2023-06-09, 11:51 Jeden czort wie co będzie za parę lat.
Doskonale wiemy co będzie - pojawią się systemy które uzyskają zdolność do lepszej generalizacji i o sprawności większej niż ludzka (tak naprawdę to już osiągnięta w większości domen).
Aldrin pisze: 2023-06-09, 15:15 Czyli najlepiej spisał się tandem człowiek -maszyna.
Najlepiej spisuje się łączenie ze sobą różnych modeli przetwarzania informacji - neuronalna z obliczeniami logicznymi i numerycznymi. Do tej pory wymagało to połączenia biologicznego mózgu z komputerami, a w przyszłości wszystko będzie sztucznie zbudowaną maszyną.

Dodano po 2 godzinach 43 minutach 12 sekundach:
AI a szachy - w programach szachowych zaczęto korzystać z oceny pozycji za pomocą odpowiednio wytrenowanej sieci neuronowej, ale szachy zawsze były domeną badań nad sztuczną inteligencją.
Normalna ocena pozycji polega na puszczeniu algorytmu ocenia aspekty pozycji bardzo dobrze zrozumianye przez człowieka: ocenia się wartość materiału, kontrolę miejsc na szachownicy, mobilność figur, bezpieczeństwo króla, bliskość pionków do pola przemiany, bezpieczeństwo własnych figur, itd. Wszystko polegało na napisaniu procedur które policzą coraz to więcej składowych i na końcu zsumowaniu z odpowiednimi wagami. Oczywiście pewne pozycje są od razu wygrywające. Zwykła heurystyka połączona z analizą milionów takich pozycji na sekundę w celu zbudowania najbardziej obiecujących drzew gry, stosuje się najlepsze ruchy przy założeniu najlepszych odpowiedzi przeciwnika (tzw. algorytm minimax).
Drzewo gry rozrasta się niezwykle szybko - wykładniczo, obecnie nawet przeskanowanie 3 ruchów do przodu zajmuje komputerom czas liczony w sekundach.
Dlatego komputery nie liczą wszystkich wariantów.

Żeby wyjaśnić o co chodzi, przykład. mamy jakąś pozycję która ma ocenę powiedzmy remisową uzyskaną za pomocą heurystycznej funkcji oceny pozycji. Funkcja oceny jest symetryczna i pokazuje wartość pozycji dla osoby która ma wykonać ruch, przy czym przyjmujemy konwencję że przewaga drugiej strony ma wartości ujemne.
Przez co przeciwnik stara się minimalizować wartość naszej pozycji (bo po zmianie znaku to jego wartość pozycji jest wtedy maksymalizowana).

Ale można uzyskać jej lepszą ocenę "zaglądając w przyszłość" w następujący sposób: rozważmy wszystkie nasze możliwe ruchy z tej określonej pozycji. Oceniamy nowe pozycje po tych ruchach funkcją heurystyczną i wybieramy sobie z nich taką, która daje nam maksimum punktów. To jest nasza nowa, dokładniejsza ocena tej pozycji.
Zróbmy jednak następny krok - i rozważmy odpowiedzi przeciwnika. Przeciwnik dla każdego ruchu zrobiłby dokładnie to samo, przeanalizuje funkcją heurystyczną swoje możliwe posunięcie ruch do przodu, i wybierze minimum, czyli posunięcie najgorsze dla nas i najlepsze dla niego. Zatem my musimy wybrać dokładnie tak samo jak poprzednio, ale bazując na dokładniejszej ocenie pozycji, czyli maksimum z minimów oszacowanych przez przeciwnika. Stąd nazwa algorytmu - minimax. To postępowanie można kontynuować w przód, tworząc coraz dokładniejsze oszacowanie wartości pozycji. Przy czym zawsze możliwe są zwroty akcji: wspaniałe i pozornie dobrze rokujące posunięcia okazują się być pułapkami, a kolei pozornie słabe (ale nie beznadziejne) ruchy w płytkiej ewaluacji okazują się być wspaniałe po głębszym spojrzeniu, przykładem najbardziej spektakularnych posunięć tego typu są poświęcenia figur, zwłaszcza hetmana, dla spektakularnego zwycięstwa albo długofalowo lepszej pozycji (tzw. gambit).
W praktyce nie liczymy wszystkich pozycji do pewnej głębokości, a jedynie te najbardziej rokujące, jednocześnie jak najwcześniej usuwając posunięcia które są beznadziejne (czyli na pewno gorsze od już przeanalizowanych), jest sporo algorytmów które to zapewniają.
Oprócz tego dochodzą jeszcze usprawnienia związane z "pamięcią": mamy biblioteki debiutów i końcówek (dla 5-6 figur w praktyce), specjalnych pozycji (np. z zadań szachowych) oraz zapamiętywanie już przeliczonych pozycji w danej partii (można uzyskać tą samą pozycję zmieniając kolejność ruchów).

Wprowadzenie sieci neuronowych do szachów zmieniło jedynie funkcję oceny heurystycznej, cała reszta algorytmów inteligentnych jest taka sama.
I teraz ciekawostka - dużo tych strategii które są opisywane algorytmami jest wykorzystywanych przez ludzi podczas swojej gry. Ludzie nie tylko oceniają pozycję na oko, ale również liczą warianty taktyczne do przodu w praktyce stosując minimaxa, natomiast w funkcji oceny pozycji uczą się wykorzystywać je za pomocą aspektów o których wspomniałem wcześniej (np wartość materiału). Jednym słowem - sieć neuronowa stara się odtworzyć postępowanie wybitnie klaycznych, "nieneuronowych" algorytmów, i to zarówno świadomie jak i nieświadomie.
W przypadku używania algorytmów neuronowych do poprawiania jakości obrazu, po przeanalizowaniu tego co robią okazało się, że aproksymują dobrze określone formuły matematyczne które po bezpośrednim zaprogramowaniu na klasycznych jednostkach obliczeniowych okazały się znacznie szybsze.
W przypadku Stockfisha - najpopularniejszego i najsilniejszego programu szachowego, neuronalna funkcja oceny jest wolniejsza od klasycznej (zresztą doskonałej) heurystyki zakodowanej ręcznie, dlatego jest używana wyłącznie do porównywania pozycji dla których klasyczna heurystyka daje bardzo zbliżone wyniki. Oczywiście funkcja neuronalna bardzo dobrze pokrywa się z funkcją oceny klasyczną, więc można powiedzieć że duplikuje jej działanie, ale dodatkowo zawiera coś ekstra, coś
co określamy mianem intuicji - czyli widzie prawidłowości które dostrzegamy w naszym wewnętrznym modelu neuronalnym, ale nie potrafimy ich odpowiednio nazwać i sformalizować.
-Panie Kapitanie! Toniemy!
-Jak nie Wy, to kto?
PT-91
Posty: 4
Rejestracja: 2024-03-27, 18:36

AI

Post autor: PT-91 »

Póki co tak, ciekawe co przyniesie przyszłość. Czytałem o tym jak ktoś stworzył narzędzie AI do odtwarzania czyjegoś głosu przy okazji tworząc drugie narzędzie służące do wykrywania głosu stworzonego przez AI i tym sposobem podniesiono poprzeczkę w odtwarzaniu oryginalnego głosu.
Aldrin pisze: 2023-06-09, 15:15 Czyli najlepiej spisał się tandem człowiek -maszyna. Sama maszyna nie znalazłaby słabego punktu. To człowiek wskazał czego szukać. Widać tu, że maszyna sama nie znajdzie takiego, inaczej by go nie popełniła. Z drugiej strony SI nie zareagowała na coś, czego dobry gracz by nie przeoczył (szczegóły w tekście).
ODPOWIEDZ