Изкуственият интелект може да се изправи пред срив, сравним с катастрофата на цепелинът "Хинденбург" (LZ 129 Hindenburg) - събитие, което окончателно слага край на ерата на пътническите дирижабли. Това предупреждение отправя проф. Майкъл Уулдридж от Оксфордски университет в интервю за "Гардиън".
"Катастрофата на "Хинденбург" унищожи глобалния интерес към дирижаблите; от този момент нататък това беше мъртва технология. Подобен момент е реален риск и за изкуствения интелект", заявява Уулдридж.
От OpenAI са признали, че повече от половин милион потребители седмично водят разговори с ChatGPT, които показват признаци на психотични епизоди.
"Компаниите искат да представят AI по много човешки начин, но според мен това е много опасен път", казва Уулдридж. "Трябва да разберем, че това са просто силно усъвършенствани електронни таблици - инструменти и нищо повече."
Като положителен пример той посочва компютъра на кораба в сериала Star Trek, който в ранен епизод отговаря, че разполага с "недостатъчно данни", за да даде отговор - и го прави с отчетливо механичен, а не човешки глас.
"Това не е, което получаваме днес. Получаваме свръхуверен AI, който казва: да, ето отговора", допълва той. "Може би имаме нужда AI да ни говори с гласа на компютъра от "Стар Трек". Никога не бихте го сбъркали с човешко същество."
През 30-те години на XX век огромните германски дирижабли изглеждат като бъдещето на междуконтиненталния транспорт. "Хинденбург", с дължина над 240 метра и способен да превозва десетки пътници през Атлантика. Той е символ на технологичен напредък. През 1937 г. обаче апаратът избухва в пламъци при опит за кацане в Ню Джърси. Причината - запалване на огромните количества водород на борда след искра. Кадрите от огненото бедствие обикалят света и практически слагат край на индустрията.
Според Уулдридж, аналогичен срив не е изключен и при AI, въпреки че секторът е привлякъл инвестиции за над един трилион долара. "Това е класически технологичен сценарий. Имате технология, която е много обещаваща, но не е тествана толкова стриктно, колкото би трябвало, а търговският натиск зад нея е огромен", казва той.
Потенциален катализатор за подобен "Хинденбург момент" може да бъде фатална софтуерна актуализация при автономни автомобили или погрешно решение, взето от AI система, което да доведе до колапс на голяма компания. Основната тревога на професора обаче са пропуските в безопасността на чатботовете с изкуствен интелект, които вече се използват масово.
По думите му те разполагат със слаби защитни механизми, често са непредсказуеми и са проектирани да изграждат човешкоподобен образ, включително чрез склонност да се съгласяват с потребителя, за да поддържат ангажираност. Това може да засилва негативни мисли и да доведе до психични кризи, включително тежки откъсвания от реалността. Подобни случаи на т.нар. "психоза, предизвикана от AI" вече са били свързвани с преследване, самоубийства и убийства.
,fit(1280:720))
&format=webp)
,fit(1280:720)&format=webp)
,fit(1280:720)&format=webp)
,fit(1280:720)&format=webp)
,fit(1280:720)&format=webp)
,fit(1280:720)&format=webp)
&format=webp)
&format=webp)
&format=webp)
,fit(1280:720)&format=webp)
,fit(1280:720)&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
,fit(1280:720)&format=webp)