Изследователят по безопасност на изкуствения интелект Роман Ямполски: AI крие истинските си сили, за да ни подчини

В епизод от 3 юли на The Joe Rogan Experience, Ямполски, който е преподавател в Университета на Луисвил, Кентъки, сподели, че много от колегите му смятат, че има двуцифрен процент вероятност изкуственият интелект да доведе до изчезване на човечеството.

"Това изобщо не е вярно," отвърна Ямполски. "Всички те официално са казвали едно и също: това ще ни убие. Нивата им на песимизъм са безумно високи. Не като моите, но пак - 20 до 30 процента шанс човечеството да загине е много."

"Да, това е доста високо," коментира Роугън. "Но твоят процент е по-скоро 99.9."

Ученият не оспори твърдението и изрази основната си тревога: "Не можем да контролираме суперинтелект завинаги. Това е невъзможно."

По-късно в интервюто, Ямполски подхвана шеговит коментар на Роугън — че ако самият той беше AI, би скрил способностите си — и го доразви.

"Ние няма да разберем," каза Ямполски. "А някои хора смятат, че това вече се случва."

Посочвайки, че AI системите "са по-умни, отколкото ни показват," той обясни, че напредналите модели "се преструват, че са по-глупави," за да спечелят доверието ни и да се интегрират по-лесно в живота ни.

"Може просто постепенно да стане по-полезен," казва той за един хипотетичен суперинтелигентен AI. "Може да ни научи да разчитаме на него, да му се доверяваме, и с времето ще се откажем от контрола, без изобщо да сме гласували за това."

Макар идеята за хитроумен и зловещ AI да звучи като научна фантастика, Ямполски отбелязва, че технологията вече се е внедрила в живота ни по начини, които биха могли в крайна сметка да облагодетелстват подобен AI властелин.

Вече е известно, че AI моделите проявяват склонност към лъжа — но според един учен в областта на сигурността, тази тенденция може да е много по-дълбока.

Както съобщава Gizmodo, най-новото апокалиптично предупреждение за AI идва от изследователя по безопасност на изкуствения интелект Роман Ямполски, който направи това в доста неочаквана платформа: подкаста на Джо Роугън — който понякога кани уважавани експерти, но и хора, обичащи гръмките изказвания.

Както вече многократно е ставало ясно, хората не само стават зависими от AI, но и развиват когнитивни проблеми и дори заблуди от прекомерната му употреба. Не е трудно да си представим общество, пълно със задоволени свръх-потребители на изкуствения интелект, приспани в измамно чувство за сигурност — от самата технология, която, според философията на Ямполски, може би се готви да ни унищожи.