Канадският учен Йошуа Бенгио за AI: Човечеството може да изчезне след 10 години - това е ужасяващо

Изкуственият интелект се развива бързо и това предизвиква сериозни опасения сред водещите учени. По-рано този месец, в навечерието на AI ​​Action Summit в Париж, видният канадски учен по изкуствен интелект и машинно обучение Йошуа Бенгио предупреди за потенциално вредните последици от надпреварата на технологичните гиганти да създават все по-мощни AI системи.

Бенгио призова за по-строго международно регулиране и по-широко изследване на безопасността на изкуствения интелект, което в момента съставлява „малка част” от огромните инвестиции, наливани в сектора. „Без намесата на правителството, не знам как ще преминем през това”, казва ученият.

Бенгио, носител на престижната Награда "Тюринг" за 2018-та година, представи първия международен доклад за безопасността на изкуствения интелект в университета ENS в Париж. Той обърна внимание на вече широко признатите рискове от използването на AI, като например създаването на невярно или подвеждащо съдържание.

В дългосрочен план Бенгио се страхува, че хората ще „загубят контрол” над AI системите, което потенциално може да бъде мотивирано от „собственото им желание да оцелеят”. Появата миналия месец на китайския евтин, високопроизводителен AI модел DeepSeek „ускори надпреварата, което не е благоприятно за безопасността”, добави ученият, цитиран от TechXplore.

Около 100 експерти от 30 държави, представители на ООН, Европейския съюз и Международната организация за икономическо сътрудничество и развитие допринесоха за доклада, ръководен от Бенгио и публикуван в края на януари. Работата по него започна на предишната среща на върха за безопасността на AI, която се състоя в Обединеното кралство през ноември 2023 г.

Съединените щати, все още водещата страна в AI, отхвърлиха опита на бившия президент Джо Байдън да наложи някои правила за развитие на AI след встъпването в длъжност на Доналд Тръмп. Когато ChatGPT на OpenAI избухна на публичната сцена преди две години, Бенгио почувства „неотложна необходимост да мисли за сигурността”. Той представи доклад за риска от AI, изготвен по модела на документите от Междуправителствения панел по изменение на климата (IPCC).