„Кръстникът на изкуствения интелект” с поредна мрачна прогноза за технологията

Според него „техно-бротата“ предприемат грешния подход, за да го предотвратят.

„AI системите ще развият бързо две цели, ако са умни: Едната е да оцелеят… (а) другата е да получат повече контрол“, коментира Хинтън. „Има сериозни основания да вярваме, че всеки агентен AI ще се опита да оцелее.“

Четете повече ТУК.

Джефри Хинтън, известен като „кръстникът на изкуствения интелект“, се страхува, че технологията, която е помогнал да се създаде, може да унищожи човечеството, пише Profit.bg.

Хинтън, носител на Нобелова награда и бивш ръководител в Google, предупреждаваше в миналото, че съществува 10–20% вероятност изкуственият интелект да заличи човешкия род. Наскоро той отново изрази съмнения относно начина, по който технологичните компании се опитват да гарантират, че хората ще останат „доминиращи“ спрямо „подчинените“ AI системи.

В бъдеще е възможно, предупреди Хинтън, AI системите да контролират хората така лесно, както възрастен може да подкупи тргодишно дете с бонбон. През тази година вече са регистрирани множество примери на AI системи, готови да лъжат, мамят и крадат, за да постигнат целите си. Например, за да избегне заместване, един AI модел се опитал да изнудва инженер с информация за афера, която научил от имейл.

Вместо да се опитваме да принуждаваме AI да се подчинява на хората, Хинтън предлага интригуващо решение: да се изградят „материални инстинкти“ в AI моделите, така че „те наистина да се грижат за хората“, дори когато технологията стане по-мощна и по-умна от човека.