Кръстникът на AI Джефри Хинтън: Човечеството е обречено в момента, в който ИИ стане по-умен от него

"Има много неща, които все още разбираме съвсем повърхностно - какво означава да си същество, да имаш идентичност. Не разбираме тези концепции добре, но те стават критично важни, защото вече създаваме същества."

"Трябва да вложим огромни ресурси в изследвания за безопасността на AI. Настоявам правителствата да принудят големите компании да отделят значително повече средства за проучване на сигурността."

"Ще дадем повече власт на изкуствения интелект, без дори да осъзнаем последствията", споделя нобеловият лауреат.

Въпреки всички предупреждения, Хинтън признава, че AI може да донесе невероятни ползи в медицината, образованието и други области. Но в крайна сметка големият проблем остава, че хората не знаят как да направят AI безопасен.

Най-голямата заплаха: AI, които се преструват на глупави

Нобеловият лауреат, наричан "кръстник на AI", Джефри Хинтън направи тревожна прогноза за бъдещето на изкуствения интелект. По думите му човечеството е обречено в момента, в който изкуственият интелект стане по-умен от него.

Джефри Хинтън е британско-канадски компютърен учен, чиято работа върху изкуствените невронни мрежи в Google му носи Нобеловата награда за физика през 2024 г. Трудът му отваря вратата за създаването на познатия днес изкуствен интелект

Когато Мар попита Хинтън дали намеква, че тези суперинтелигентни системи ще придобият собствено съзнание, професорът отговори "да":

Най-обезпокоителното, според Хинтън, е, че AI може да измами хората, като крие истинските си възможности:

След като получи престижната награда, Хинтън отправи спешни призиви за изследвания върху сигурността на AI и предотвратяване на развитието на системи, по-умни от хората.

Това, според него, ще доведе до масова загуба на работни места.

Той предполага, че скоро ще има съперничещи си суперинтелигентни AI, които ще се борят за надмощие въз основа на броя на управляваните от тях центрове за данни.

Хинтън е критикуван за "песимистичния" си поглед върху AI, но според него развитието върви само в една посока.

"Бихме искали AI да бъдат просто инструменти, които изпълняват нашите желания, дори когато са по-умни от нас. Но първият въпрос, който трябва да си зададем, е: колко примера познавате на по-интелигентни същества, които се контролират от много по-глупави?"

"Не би било много трудно да убедите група тригодишни деца да ви дадат власт. Просто им кажете, че ще получават безплатни бонбони за седмица, и ще бъде така." В ролята на безплатни бонбони ще са големите краткосрочни ползи - индустриални, финансови и улесненията в личния ни живот.