-
15 юли 2024 12:59
- 2107
- 1
Бивш изследовател на OpenAI споделя, че е напуснал компанията, след като е разбрал, че тя оставя безопасността на заден план, за да преследва бърза печалба. Бившият член на екипа на Superalignment Уилям Сондърс направи разкритието в подкаста на Алекс Кантровиц.
"По време на трите ми години в OpenAI понякога си задавах въпрос. Дали пътят, по който вървеше OpenAI, приличаше повече на програмата Аполо или повече на Титаник?"
Сондърс твърди, че Титаник може да е бил наричан "непотопяем, но междувременно не е имало достатъчно спасителни лодки за всички и така, когато бедствието все пак се случва, броя на загиналите е непропорционално висок".
Бившият служител обвини OpenAI, че "гигантът дава приоритет на извеждането на по-нови, по-лъскави продукти" точно както е правила преди около век вече несъществуващата британска корабна компания White Star Line.
Неговите коментари подчертават нарастващата загриженост около разработката на всеобщ изкуствен интелект (AGI) - нещо, което в момента остава изцяло теоретично, но е източник на голям интерес за OpenAI и Сам Алтман.
Ангажиментът на OpenAI към безопасността също е нестабилен, що се отнася до непрекъснато променящата се корпоративна структура. По-рано тази година главният изпълнителен директор на OpenAI Сам Олтман обяви, че разпуска екипа на Superalignment, ориентиран към безопасността - част от който някога е бил Сондърс, пише dir.bg.
Алтман твърди от самото начало, че иска да реализира AGI по безопасен начин. Спроед критиците обаче компанията играе бързо и свободно с правилата и дава приоритет на пускането на нови чатботове. Освен това тя е набрала сериозни инвестиции и има партньорства за милиарди долари с технологични гиганти като Microsoft.
"Не е възможно да се разработи AGI или каквато и да е нова технология с нулев риск", добавя Сондърс в имейл до Business Insider. Той посочва, че програмата Аполо също е имала пропуски в безопасността.
"Това, което бих искал да видя, е компанията да предприеме всички възможни разумни стъпки, за да предотврати тези рискове."
Последвайте канала на
Свързани новини
Какво представляват агентите с изкуствен интелект?
11 юли 202410:40
Конкурент на OpenAI обяви най-мощния изкуствен интелект
21 юни 202412:35
Hoвият cтapтъп нa Иля Cyцĸeвep ще създава безопасен изкуствен интелект, който е по-умен от човека
20 юни 202411:00
Квантовият изкуствен интелект: повече, отколкото можем да си представим
19 юни 202417:15
Сам Алтман си призна, че в OpenAI нямат идея как работи собственият им изкуствен интелект
05 юни 202414:02
Кажи „да“ на алгоритъма: Япония бори демографската криза с изкуствен интелект
19 февруари 202412:38
Кораб бе поразен от снаряди на около 150 километра югоизточно от Аден
19 юли 202409:49
Започна експедиция до останките на "Титаник"
15 юли 202413:14
Съставите на Реал и Аталанта за мача за Суперкупата, Мбапе е титуляр
Официално: Лудогорец привлече национал
Валентин Илиев: Вярвам в успеха, трябва да знаем, че срещу нас играят живи хора, а не нещо непреодолимо
Генчев: Феновете са плътно зад нас! Отборът трябва да се бори за титла и купа
Керкез: Жрински ще атакува, а ние трябва да сме организирани
Красимир Инински: Плаках в ръцете на Стоичков
Коментари 1
ДобавиДобави коментар
Водещи новини
Калин Стоянов не е получил покана да бъде министър и в следващия служебен кабинет
14 август 202417:17
Владимир Малинов: До дни пускаме процедурата по ПВУ от 1,2 млрд. лв. за батериите за ток
14 август 202417:09
Банката за развитие с позиция за кредита на Румен Гайтански - Вълка
14 август 202417:17
Прекият началник на полицая, застрелян от детето си, иска да излезе в болничен
14 август 202418:11
Нелегално работи обектът в Банкя, в който един човек загина при пожар
14 август 202418:52
Откраднаха трите апартамента на мъж, докато го давят с алкохол
14 август 202417:20
България счупи температурни рекорди днес, ето къде беше най-горещо
14 август 202417:40
Украйна: Нанесохме най-силния удар по руски летища от старта на войната
14 август 202418:17
Фики загуби най-любимия си човек
14 август 202418:28
2024.07.15 | 16:39