"Пускането на софтуер до милиони хора без защитни мерки не е добра инженерна практика," заяви Барто пред Financial Times. "Инженерните практики са се развили, за да намалят отрицателните последици от технологиите, но не виждам това да се прилага от компаниите, които ги разработват."
Барто разкритикува AI компаниите, че са "мотивирани от бизнес стимули", вместо да се фокусират върху напредъка на изследванията в сферата, пише dir.bg.
Наградата Тюринг, често наричана "Нобеловата награда за компютърни науки", е придружена от парична премия от 1 милион долара и беше връчена днес съвместно на Барто и Сътън.
Старши вицепрезидентът на Google Джеф Дийн описва тази техника като "ключов фактор за напредъка в AI", който остава "основен стълб на бума на изкуствения интелект", довел до революционни модели като ChatGPT на OpenAI и AlphaGo на Google.
Опасностите от бързащите AI компании вече бяха остро критикувани от Йошуа Бенджио и Джефри Хинтън — двама от "бащите на изкуствения интелект", които също са носители на наградата Тюринг.
Учените са наградени за разработването на "обучение чрез подсилване" — метод за машинно обучение, който тренира AI системи да вземат оптимизирани решения чрез проба и грешка.
Учените, които получиха наградата Тюринг за създаването на фундаментални техники за обучение на изкуствен интелект, използваха вниманието към тях, за да изразят загриженост относно рисковете от прибързаното пускане на модели, пише The Verge.
Изследователят от Университета на Масачузетс Андрю Барто и бившият научен сътрудник на DeepMind Ричард Сътън предупредиха, че AI компаниите не тестват продуктите си достатъчно преди пускането им, като сравниха този процес със "строеж на мост, който се тества, като хората започнат да го използват", според Financial Times.
През 2023 г. група водещи изследователи, инженери и изпълнителни директори в сферата на AI, включително главният изпълнителен директор на OpenAI Сам Алтман, излязоха с изявление, че "намаляването на риска от изчезване на човечеството вследствие на AI трябва да бъде глобален приоритет".
OpenAI, която неведнъж е обещавала да подобри безопасността на AI и дори временно отстрани Алтман заради "прекомерна комерсиализация на напредъка, без да се разбират последствията", обяви през декември планове да се трансформира в комерсиална компания с цел печалба.
)
&format=webp)
,fit(1280:720)&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
,fit(1280:720)&format=webp)
,fit(1280:720)&format=webp)