Професор от Оксфорд предупреждава за "ефект Хинденбург" при изкуствения интелект

"Катастрофата на "Хинденбург" унищожи глобалния интерес към дирижаблите; от този момент нататък това беше мъртва технология. Подобен момент е реален риск и за изкуствения интелект", заявява Уулдридж.

"Компаниите искат да представят AI по много човешки начин, но според мен това е много опасен път", казва Уулдридж. "Трябва да разберем, че това са просто силно усъвършенствани електронни таблици - инструменти и нищо повече."

Като положителен пример той посочва компютъра на кораба в сериала Star Trek, който в ранен епизод отговаря, че разполага с "недостатъчно данни", за да даде отговор - и го прави с отчетливо механичен, а не човешки глас.

"Това не е, което получаваме днес. Получаваме свръхуверен AI, който казва: да, ето отговора", допълва той. "Може би имаме нужда AI да ни говори с гласа на компютъра от "Стар Трек". Никога не бихте го сбъркали с човешко същество."

Изкуственият интелект може да се изправи пред срив, сравним с катастрофата на цепелинът "Хинденбург" (LZ 129 Hindenburg) - събитие, което окончателно слага край на ерата на пътническите дирижабли. Това предупреждение отправя проф. Майкъл Уулдридж от Оксфордски университет в интервю за "Гардиън".

Според Уулдридж, аналогичен срив не е изключен и при AI, въпреки че секторът е привлякъл инвестиции за над един трилион долара. "Това е класически технологичен сценарий. Имате технология, която е много обещаваща, но не е тествана толкова стриктно, колкото би трябвало, а търговският натиск зад нея е огромен", казва той.

Потенциален катализатор за подобен "Хинденбург момент" може да бъде фатална софтуерна актуализация при автономни автомобили или погрешно решение, взето от AI система, което да доведе до колапс на голяма компания. Основната тревога на професора обаче са пропуските в безопасността на чатботовете с изкуствен интелект, които вече се използват масово.

По думите му те разполагат със слаби защитни механизми, често са непредсказуеми и са проектирани да изграждат човешкоподобен образ, включително чрез склонност да се съгласяват с потребителя, за да поддържат ангажираност. Това може да засилва негативни мисли и да доведе до психични кризи, включително тежки откъсвания от реалността. Подобни случаи на т.нар. "психоза, предизвикана от AI" вече са били свързвани с преследване, самоубийства и убийства.