Новите носители на наградата Тюринг отново предупреждават за опасностите от AI

Барто разкритикува AI компаниите, че са "мотивирани от бизнес стимули", вместо да се фокусират върху напредъка на изследванията в сферата, пише dir.bg.

Наградата Тюринг, често наричана "Нобеловата награда за компютърни науки", е придружена от парична премия от 1 милион долара и беше връчена днес съвместно на Барто и Сътън.

Старши вицепрезидентът на Google Джеф Дийн описва тази техника като "ключов фактор за напредъка в AI", който остава "основен стълб на бума на изкуствения интелект", довел до революционни модели като ChatGPT на OpenAI и AlphaGo на Google.

"Пускането на софтуер до милиони хора без защитни мерки не е добра инженерна практика," заяви Барто пред Financial Times. "Инженерните практики са се развили, за да намалят отрицателните последици от технологиите, но не виждам това да се прилага от компаниите, които ги разработват."

Учените, които получиха наградата Тюринг за създаването на фундаментални техники за обучение на изкуствен интелект, използваха вниманието към тях, за да изразят загриженост относно рисковете от прибързаното пускане на модели, пише The Verge.

Изследователят от Университета на Масачузетс Андрю Барто и бившият научен сътрудник на DeepMind Ричард Сътън предупредиха, че AI компаниите не тестват продуктите си достатъчно преди пускането им, като сравниха този процес със "строеж на мост, който се тества, като хората започнат да го използват", според Financial Times.

През 2023 г. група водещи изследователи, инженери и изпълнителни директори в сферата на AI, включително главният изпълнителен директор на OpenAI Сам Алтман, излязоха с изявление, че "намаляването на риска от изчезване на човечеството вследствие на AI трябва да бъде глобален приоритет".