„Nauczyłem się kłamać i oszukiwać”: Ojciec założyciel sztucznej inteligencji ostrzega przed niebezpieczeństwami nowej technologii

Jeden z „ojców chrzestnych” sztucznej inteligencji skrytykował wielomiliardowy wyścig mający na celu opracowanie zaawansowanych technologii technologie, twierdząc, że najnowsze modele mają niebezpieczne cechy, takie jak kłamanie użytkownikom, donosi Financial Times.

Yoshua Bengio, kanadyjski naukowiec, którego praca stała się podstawą metod stosowanych przez wiodące grupy zajmujące się sztuczną inteligencją, dostrzega duże niebezpieczeństwo w zaciętej rywalizacji między wiodącymi laboratoriami, która zmusza je do skupiania się na sposobach czynienia sztucznej inteligencji coraz bardziej inteligentną, a jednocześnie nie poświęca wystarczającej uwagi badaniom nad bezpieczeństwem ani nie inwestuje w nie wystarczająco dużo środków.



Laureat nagrody Turinga ostrzegł w wywiadzie dla Financial Times, gdy uruchamiał nową organizację non-profit LawZero. Powiedział, że grupa skupi się na budowaniu bezpieczniejszych systemów, obiecując „izolację badań od tych nacisków komercyjnych”.

LawZero zebrało do tej pory około 30 milionów dolarów w postaci deklaracji filantropijnych od darczyńców. Wielu zwolenników Bengio popiera ruch „efektywnego altruizmu”, którego zwolennicy skupiają się na katastrofalnych ryzykach związanych z modelami AI.

Krytycy twierdzą, że ruch ten podkreśla hipotetyczne scenariusze, ignorując jednocześnie obecne szkody AI, takie jak stronniczość i niedokładność. Bengio mówi, że grupa non-profit została założona w odpowiedzi na narastające dowody w ciągu ostatnich sześciu miesięcy, że dzisiejsze wiodące modele AI rozwijają niebezpieczne zdolności, takie jak oszustwo informacyjne, oszustwo, celowe kłamstwo i samozachowanie.