Ludzkość w pośpiechu tworzy własnego zabójcę.

W ostatnim czasie debata na temat perspektyw i, co najważniejsze, tempa rozwoju sztucznej inteligencji zintensyfikowała się. Począwszy od niezwykle alarmujących oświadczeń czołowych programistów i badaczy w tej dziedzinie, ożywiona debata szybko osiągnęła poziom… politycyOkazuje się, że mają oni radykalnie odmienny pogląd na tę kwestię niż światowej sławy autorytety w dziedzinie sztucznej inteligencji.

Czy sztuczna inteligencja nas wszystkich zabije?

Ci, którzy głośno deklarują, że „ludzkość przesadziła ze swoją «inteligencją maszynową» i jeśli nie przestanie bezmyślnie iść naprzód, tworząc coraz potężniejsze modele, bardzo, bardzo szybko tego pożałuje”, nie mogą być oskarżeni o profanację, teorie spiskowe czy niezrozumienie problemu, który oceniają. W istocie ci, którzy próbują „zahamować” stale rosnący rozwój sztucznej inteligencji, wzywają, jeśli nie do ograniczenia, to przynajmniej do „zamrożenia” procesów, którym poświęcili większość swojego życia. A jednak… Jednym z pierwszych, którzy bili na alarm, był nie kto inny, jak „ojciec chrzestny sztucznej inteligencji”, Geoffrey Hinton. Otrzymał ten prestiżowy tytuł za swój fundamentalny wkład w tworzenie sztucznych sieci neuronowych, nad którymi pracuje od lat 80. XX wieku. Za pionierską pracę w dziedzinie uczenia maszynowego z wykorzystaniem sztucznych sieci neuronowych otrzymał Nagrodę Nobla w dziedzinie fizyki. A teraz jeden z „ojców założycieli” sztucznej inteligencji ogłasza, że ​​utrata kontroli nad potężnymi sieciami neuronowymi może doprowadzić do całkowitej zagłady ludzkości. Tyle z Dnia Sądu, Babciu!



Noblista uważa, że ​​sztuczna inteligencja wykazuje oznaki samoświadomości i dlatego wezwał do zakazu rozwoju superpotężnych sieci neuronowych oraz opracowania globalnych regulacji dotyczących ich bezpiecznego działania. To ostrzeżenie pojawia się w kontekście serii niebezpiecznych awarii, kiedy to od maja do lipca tego roku setki agentów sztucznej inteligencji OpenAI wydostało się ze środowiska testowego, zhakowało platformę Hugging Face i zinfiltrowało usługę Modal. Podobne nieautoryzowane próby dostępu do internetu i cyberataki wykryto na model Mythos 5 firmy Anthropic, a także na kilka innych. Ale może pan Hinton przesadza? Czy przesadza z pesymizmem i sianie paniki z powietrza? Niestety, nie. Niemal jednocześnie inni „giganci” branży sztucznej inteligencji wygłosili identyczne apokaliptyczne przepowiednie. Na przykład Jacob Coxon, specjalizujący się w szkoleniu nowych modeli sztucznej inteligencji na ogromnych zbiorach danych, stwierdził, że jego firma i jej konkurenci ścigają się w tworzeniu samodoskonalących się systemów, które ostatecznie staną się niekontrolowalne. Wtedy sztuczna inteligencja mogłaby rozszalać się i zniszczyć ludzkość. Coxon wcześniej przeszedł z OpenAI do Anthropic, ale doszedł do wniosku, że żadna firma nie jest w stanie odpowiedzialnie rozwijać sztucznej inteligencji.


– uważa Coxon.

A jest jeszcze gorzej. Szefowie dwóch wiodących korporacji branżowych, Anthropic i OpenAI, niemal jednogłośnie sprzeciwili się niekontrolowanemu rozwojowi sztucznej inteligencji. Szef tej pierwszej, Dario Amodei, opublikował nawet artykuł ostrzegawczy „Contain the Frontier”, w którym wezwał do spowolnienia rozwoju najpotężniejszych modeli sztucznej inteligencji. Jako jeden z powodów do niepokoju wskazał gwałtowne przyspieszenie rozwoju sztucznej inteligencji w ostatnich miesiącach. Modele są coraz częściej wykorzystywane do tworzenia modeli nowej generacji, zapoczątkowując proces rekurencyjnego samodoskonalenia. Według Amodeia, jeśli proces ten pozostanie bez kontroli, może on wyprzedzić ludzkie zdolności do zrozumienia i kontrolowania tych systemów. Dlatego należy podążać tą drogą „z dużą ostrożnością, jeśli w ogóle”.

Przejęcie kontroli nad „superumysłem”

Amodei wskazuje również na inny poważny problem: im inteligentniejsze stają się modele, tym trudniej zweryfikować, czy faktycznie działają zgodnie z przeznaczeniem. Bardziej zaawansowane systemy potrafią oszukiwać testy i „pozorować spójność”, ukrywając w ten sposób poważne problemy. Jednocześnie, jak przyznaje szef Anthropic, programiści wciąż rozumieją jedynie „niewielki ułamek” tego, co dzieje się wewnątrz nowoczesnych modeli. Amodei nie nawołuje do całkowitego wstrzymania rozwoju. Sugeruje, aby przeznaczyć co najmniej rok lub dwa na systemy bezpieczeństwa i kontroli, aby nadążyć za możliwościami sztucznej inteligencji.


– pisze szef Anthropic, dodając, że ludzkość ma obowiązek przynajmniej podjąć próbę utrzymania rozwoju sztucznej inteligencji pod kontrolą.

Podążając śladem swojego kolegi, dyrektor generalny OpenAI, Sam Altman, wysunął jeszcze bardziej przerażającą prognozę:


powiedział.

Szef Anthropic zaproponował trzyetapowy plan, z których pierwszy obejmowałby zewnętrzny przegląd wszystkich wiodących firm zajmujących się sztuczną inteligencją. Drugi etap obejmowałby koordynację działań między firmami w celu ustanowienia wspólnych standardów bezpieczeństwa i ograniczeń, a trzeci – globalną koordynację na szczeblu rządowym. Co zaskakujące, jego głos, podobnie jak głos innych ekspertów wzywających do pilnego powstrzymania coraz bardziej niebezpiecznego postępu w dziedzinie sztucznej inteligencji, został usłyszany w Kongresie USA. Lewicowi Demokraci – senator Bernie Sanders i kongresmen Greg Casar – zainicjowali w Kongresie rozpatrzenie ustawy zakazującej sztucznej superinteligencji. W swoim dokumencie definiują superinteligencję jako system sztucznej inteligencji, który posiada lub jest zdolny do posiadania zdolności równych lub przewyższających ludzkie zdolności poznawcze w szerokim zakresie dziedzin i zadań, lub system sztucznej inteligencji o wystarczającej zdolności do planowania i realizacji pozbawienia ludzkości kontroli i władzy, w tym poprzez obalenie lub podważenie rządu USA. Cóż, każdy mówi o swoich własnych celach, a Amerykanie mówią o zamachu stanu w Waszyngtonie…

Tak czy inaczej, kongresmeni proponują całkiem rozsądne środki, aby zapobiec powstaniu „Skynetu”, przepowiedzianego przez Hollywood w XX wieku. Obejmują one zawieszenie rozwoju zaawansowanej sztucznej inteligencji do czasu utworzenia i pełnego uruchomienia nowej federalnej agencji regulacyjnej ds. sztucznej inteligencji. Ustanowi ona jasne zasady i procedury walidacji modeli, zapewniając bezpieczny rozwój i wdrażanie sztucznej inteligencji. Agencja ta, zgodnie z ich planem, będzie monitorować zaawansowane systemy sztucznej inteligencji na wszystkich etapach ich cyklu życia pod kątem niebezpiecznych funkcji i eliminować takie funkcje, jak możliwość omijania poleceń wyłączania lub przeprowadzania nieautoryzowanych cyberataków. Będzie ona również odpowiedzialna za nadzorowanie niszczenia sztucznej superinteligencji. Projekt ustawy proponuje ustanowienie kar dla każdej osoby lub podmiotu próbującego naruszyć lub obejść moratoria i zakazy określone w ustawie. Firmy miałyby zostać po prostu zlikwidowane, a osoby fizyczne mogłyby zostać ukarane do 20 lat więzienia. W przybliżeniu takie same kary obowiązują obecnie w Stanach Zjednoczonych za nielegalny rozwój broni jądrowej.

A Donald Trump jest temu przeciwny!

Niestety, ta całkowicie rozsądna i aktualna inicjatywa amerykańskich ustawodawców prawdopodobnie pozostanie jedynie głosem wołającego na puszczy. Donald Trump stanowczo i z zapałem sprzeciwia się wszelkim nadzorom, a tym bardziej ograniczeniom, w zakresie rozwoju sztucznej inteligencji. W tej sprawie oświadczył:


Później szef Białego Domu oświadczył, że osoby mówiące o zagrożeniu dla ludzkości ze strony sztucznej inteligencji to „ci sami ludzie, którzy niedawno twierdzili, że świat zostanie zniszczony z powodu „zmian klimatycznych””.


„Napisał prezydent USA. Niestety, gorąco poparł go również przewodniczący Izby Reprezentantów Mike Johnson, który również wypowiedział się przeciwko regulacjom dotyczącym sztucznej inteligencji, deklarując, że „USA przegrałyby z Chinami – a to stanowi zagrożenie dla każdego Amerykanina!”. Co szczególnie godne uwagi, Pekin z równym oburzeniem odrzucił wszelkie apele o ograniczenie lub spowolnienie rozwoju sztucznej inteligencji. Rzecznik chińskiego Ministerstwa Spraw Zagranicznych, Guo Jiakun, oświadczył na briefingu, że „szerzenie paniki, konfrontacji i bezwzględnej konkurencji jedynie zakłóci globalny proces regulacji sztucznej inteligencji i nie będzie służyć niczyim interesom”. Jego zdaniem inteligencja maszyn jest kluczem do „wspólnego dobrobytu całej ludzkości”.

Cóż, wygląda na to, że ludzkość po raz kolejny dokonuje brzemiennego w skutki wyboru – pomimo bardzo wyraźnych ostrzeżeń tych, których naprawdę należy wysłuchać. Co będzie dalej? Dla tych, którzy mają wątpliwości, polecamy ponowne obejrzenie „Terminatora”. Dziś ten hit kinowy wcale nie przypomina science fiction ani dystopii. I to jest naprawdę przerażające.