-
15 юли 2024 12:59
- 609
- 1
![Бившият изследовател на OpenAI Уилям Сондърс приравни дейността на компанията с потъването на кораба "Титаник"](https://img2.novini.bg/uploads/news_pictures/2024-29/big/957966.png)
Бивш изследовател на OpenAI споделя, че е напуснал компанията, след като е разбрал, че тя оставя безопасността на заден план, за да преследва бърза печалба. Бившият член на екипа на Superalignment Уилям Сондърс направи разкритието в подкаста на Алекс Кантровиц.
"По време на трите ми години в OpenAI понякога си задавах въпрос. Дали пътят, по който вървеше OpenAI, приличаше повече на програмата Аполо или повече на Титаник?"
Сондърс твърди, че Титаник може да е бил наричан "непотопяем, но междувременно не е имало достатъчно спасителни лодки за всички и така, когато бедствието все пак се случва, броя на загиналите е непропорционално висок".
Бившият служител обвини OpenAI, че "гигантът дава приоритет на извеждането на по-нови, по-лъскави продукти" точно както е правила преди около век вече несъществуващата британска корабна компания White Star Line.
Неговите коментари подчертават нарастващата загриженост около разработката на всеобщ изкуствен интелект (AGI) - нещо, което в момента остава изцяло теоретично, но е източник на голям интерес за OpenAI и Сам Алтман.
Ангажиментът на OpenAI към безопасността също е нестабилен, що се отнася до непрекъснато променящата се корпоративна структура. По-рано тази година главният изпълнителен директор на OpenAI Сам Олтман обяви, че разпуска екипа на Superalignment, ориентиран към безопасността - част от който някога е бил Сондърс, пише dir.bg.
Алтман твърди от самото начало, че иска да реализира AGI по безопасен начин. Спроед критиците обаче компанията играе бързо и свободно с правилата и дава приоритет на пускането на нови чатботове. Освен това тя е набрала сериозни инвестиции и има партньорства за милиарди долари с технологични гиганти като Microsoft.
"Не е възможно да се разработи AGI или каквато и да е нова технология с нулев риск", добавя Сондърс в имейл до Business Insider. Той посочва, че програмата Аполо също е имала пропуски в безопасността.
"Това, което бих искал да видя, е компанията да предприеме всички възможни разумни стъпки, за да предотврати тези рискове."
Последвайте канала на
Свързани новини
![Какво представляват агентите с изкуствен интелект?](https://img2.novini.bg/uploads/news_pictures/2024-28/big/957197.png)
Какво представляват агентите с изкуствен интелект?
11 юли 202410:40
![Конкурент на OpenAI обяви най-мощния изкуствен интелект](https://img2.novini.bg/uploads/news_pictures/2024-25/big/952911.png)
Конкурент на OpenAI обяви най-мощния изкуствен интелект
21 юни 202412:35
![Hoвият cтapтъп нa Иля Cyцĸeвep ще създава безопасен изкуствен интелект, който е по-умен от човека](https://img2.novini.bg/uploads/news_pictures/2024-25/big/952562.png)
Hoвият cтapтъп нa Иля Cyцĸeвep ще създава безопасен изкуствен интелект, който е по-умен от човека
20 юни 202411:00
![Квантовият изкуствен интелект: повече, отколкото можем да си представим](https://img2.novini.bg/uploads/news_pictures/2024-25/big/952443.png)
Квантовият изкуствен интелект: повече, отколкото можем да си представим
19 юни 202417:15
![Сам Алтман си призна, че в OpenAI нямат идея как работи собственият им изкуствен интелект](https://img2.novini.bg/uploads/news_pictures/2024-23/big/948648.jpg)
Сам Алтман си призна, че в OpenAI нямат идея как работи собственият им изкуствен интелект
05 юни 202414:02
![Кажи „да“ на алгоритъма: Япония бори демографската криза с изкуствен интелект](https://img2.novini.bg/uploads/news_pictures/2024-08/big/923827.png)
Кажи „да“ на алгоритъма: Япония бори демографската криза с изкуствен интелект
19 февруари 202412:38
![Започна експедиция до останките на "Титаник"](https://img2.novini.bg/uploads/news_pictures/2024-29/big/957977.png)
Започна експедиция до останките на "Титаник"
15 юли 202413:14
![Испания ликува, а Мадрид отпразнува рекордната титла](https://sportal365images.com/process/smp-images-production/sportal.bg/15072024/34661cde-8e56-4547-b334-7660492faba3.jpg?operations=crop(0:0:4692:2639),fit(968:545))
Испания ликува, а Мадрид отпразнува рекордната титла
![Десподов с обширно интервю за старта във футбола, трансфера в ПАОК и разликите между България и Гърция](https://sportal365images.com/process/smp-images-production/sportal.bg/03062024/d27b8a7a-83c1-41fe-9e48-7293857cbc35.jpg?operations=crop(0:38:2952:1698),fit(968:545))
Десподов с обширно интервю за старта във футбола, трансфера в ПАОК и разликите между България и Гърция
![Меси проговори след контузията](https://sportal365images.com/process/smp-images-production/sportal.bg/09072024/399aecd4-13d4-4587-a469-b46746d724ba.jpg?operations=autocrop(968:545))
Меси проговори след контузията
![Жиру потвърди, че спира с Франция](https://sportal365images.com/process/smp-images-production/sportal.bg/10072024/4d92ab7e-0806-4699-a1ab-942215796251.jpeg?operations=crop(0:325:4166:2668),fit(968:545))
Жиру потвърди, че спира с Франция
![Кейн няма да напуска "Трите лъва"](https://sportal365images.com/process/smp-images-production/sportal.bg/14072024/dd8b8940-7255-4de8-a9c0-c0006dea2013.jpg?operations=crop(0:134:5133:3021),fit(968:545))
Кейн няма да напуска "Трите лъва"
![„Вабанк“: Има ли изненадани, че Испания е шампион](https://sportal365images.com/process/smp-images-production/sportal.bg/15072024/b88dcec8-56bb-4c0b-98f8-496a6abe936b.png?operations=autocrop(968:545))
„Вабанк“: Има ли изненадани, че Испания е шампион
Коментари 1
ДобавиДобави коментар
Водещи новини
![ПП-ДБ изпращат декларация до останалите политическите формации](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958138.jpg)
ПП-ДБ изпращат декларация до останалите политическите формации
16 юли 202406:25
![Халил Летифов : ДПС ще влезе монолитно и стабилно в едни нови предсрочни парламентарни избори](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958170.jpg)
Халил Летифов : ДПС ще влезе монолитно и стабилно в едни нови предсрочни парламентарни избори
16 юли 202407:55
![Директорката на Сикрет сървис: Стрелбата по време на митинга на Тръмп е "неприемлива"](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958134.jpg)
Директорката на Сикрет сървис: Стрелбата по време на митинга на Тръмп е "неприемлива"
16 юли 202406:00
![Байдън съжалява за изказване срещу Тръмп след нападението](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958132.jpg)
Байдън съжалява за изказване срещу Тръмп след нападението
16 юли 202405:55
![Британският премиер започва преглед за укрепване на отбраната на Обединеното кралство](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958135.jpg)
Британският премиер започва преглед за укрепване на отбраната на Обединеното кралство
16 юли 202406:05
![Белгородска област е под украински огън](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958137.jpg)
Белгородска област е под украински огън
16 юли 202406:20
![Пхенян предупреди за "опустошителни последици" Южна Корея заради листовки](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958139.jpg)
Пхенян предупреди за "опустошителни последици" Южна Корея заради листовки
16 юли 202406:33
![Войник бе намушкан в Париж](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958140.jpg)
Войник бе намушкан в Париж
16 юли 202406:36
![Опасно горещо време и във вторник](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958136.jpg)
Опасно горещо време и във вторник
16 юли 202406:12
2024.07.15 | 16:39