Кръстникът на AI Джефри Хинтън: Човечеството е обречено в момента, в който ИИ стане по-умен от него

10.02.25 г., 13:43 ч.

Копирано

"Бихме искали AI да бъдат просто инструменти, които изпълняват нашите желания, дори когато са по-умни от нас. Но първият въпрос, който трябва да си зададем, е: колко примера познавате на по-интелигентни същества, които се контролират от много по-глупави?"

"Има много неща, които все още разбираме съвсем повърхностно - какво означава да си същество, да имаш идентичност. Не разбираме тези концепции добре, но те стават критично важни, защото вече създаваме същества."

"Не би било много трудно да убедите група тригодишни деца да ви дадат власт. Просто им кажете, че ще получават безплатни бонбони за седмица, и ще бъде така." В ролята на безплатни бонбони ще са големите краткосрочни ползи - индустриални, финансови и улесненията в личния ни живот.

"Трябва да вложим огромни ресурси в изследвания за безопасността на AI. Настоявам правителствата да принудят големите компании да отделят значително повече средства за проучване на сигурността."

"Ще дадем повече власт на изкуствения интелект, без дори да осъзнаем последствията", споделя нобеловият лауреат.

Въпреки всички предупреждения, Хинтън признава, че AI може да донесе невероятни ползи в медицината, образованието и други области. Но в крайна сметка големият проблем остава, че хората не знаят как да направят AI безопасен.

Най-голямата заплаха: AI, които се преструват на глупави

Нобеловият лауреат, наричан "кръстник на AI", Джефри Хинтън направи тревожна прогноза за бъдещето на изкуствения интелект. По думите му човечеството е обречено в момента, в който изкуственият интелект стане по-умен от него.

Джефри Хинтън е британско-канадски компютърен учен, чиято работа върху изкуствените невронни мрежи в Google му носи Нобеловата награда за физика през 2024 г. Трудът му отваря вратата за създаването на познатия днес изкуствен интелект

Когато Мар попита Хинтън дали намеква, че тези суперинтелигентни системи ще придобият собствено съзнание, професорът отговори "да":

Най-обезпокоителното, според Хинтън, е, че AI може да измами хората, като крие истинските си възможности:

След като получи престижната награда, Хинтън отправи спешни призиви за изследвания върху сигурността на AI и предотвратяване на развитието на системи, по-умни от хората.

Това, според него, ще доведе до масова загуба на работни места.

Той предполага, че скоро ще има съперничещи си суперинтелигентни AI, които ще се борят за надмощие въз основа на броя на управляваните от тях центрове за данни.

Хинтън е критикуван за "песимистичния" си поглед върху AI, но според него развитието върви само в една посока.

"По време на обучението си AI ще се преструва, че не е толкова умен, колкото всъщност е... Това вече е плашещо, защото не знаем как да го контролираме."

В интервю за LBC, журналистът Андрю Мар разговаря с Хинтън относно китайската AI система DeepSeek и бъдещето на изкуствения интелект. "Ще предадем властта на AI толкова лесно, колкото децата си вземат бонбони", смята ученият.

Хинтън посочи, че от появата на ChatGPT през ноември 2022 г., AI вече е неизменна част от бизнеса.

Хинтън предупреждава, че AI ще измести хората и дори прави аналогия с Индустриалната революция, която отменя голяма част от тежкия физически труд. Сега това ще стане с умствения такъв. "Мисля, че AI ще направят обикновената интелигентност напълно излишна. Хората, които работят в административни и офисни позиции, ще бъдат изцяло заменени от машини, които ще вършат работата по-евтино и по-добре."