-
15 юли 2024 12:59
- 509
- 1
![Бившият изследовател на OpenAI Уилям Сондърс приравни дейността на компанията с потъването на кораба "Титаник"](https://img2.novini.bg/uploads/news_pictures/2024-29/big/957966.png)
Бивш изследовател на OpenAI споделя, че е напуснал компанията, след като е разбрал, че тя оставя безопасността на заден план, за да преследва бърза печалба. Бившият член на екипа на Superalignment Уилям Сондърс направи разкритието в подкаста на Алекс Кантровиц.
"По време на трите ми години в OpenAI понякога си задавах въпрос. Дали пътят, по който вървеше OpenAI, приличаше повече на програмата Аполо или повече на Титаник?"
Сондърс твърди, че Титаник може да е бил наричан "непотопяем, но междувременно не е имало достатъчно спасителни лодки за всички и така, когато бедствието все пак се случва, броя на загиналите е непропорционално висок".
Бившият служител обвини OpenAI, че "гигантът дава приоритет на извеждането на по-нови, по-лъскави продукти" точно както е правила преди около век вече несъществуващата британска корабна компания White Star Line.
Неговите коментари подчертават нарастващата загриженост около разработката на всеобщ изкуствен интелект (AGI) - нещо, което в момента остава изцяло теоретично, но е източник на голям интерес за OpenAI и Сам Алтман.
Ангажиментът на OpenAI към безопасността също е нестабилен, що се отнася до непрекъснато променящата се корпоративна структура. По-рано тази година главният изпълнителен директор на OpenAI Сам Олтман обяви, че разпуска екипа на Superalignment, ориентиран към безопасността - част от който някога е бил Сондърс, пише dir.bg.
Алтман твърди от самото начало, че иска да реализира AGI по безопасен начин. Спроед критиците обаче компанията играе бързо и свободно с правилата и дава приоритет на пускането на нови чатботове. Освен това тя е набрала сериозни инвестиции и има партньорства за милиарди долари с технологични гиганти като Microsoft.
"Не е възможно да се разработи AGI или каквато и да е нова технология с нулев риск", добавя Сондърс в имейл до Business Insider. Той посочва, че програмата Аполо също е имала пропуски в безопасността.
"Това, което бих искал да видя, е компанията да предприеме всички възможни разумни стъпки, за да предотврати тези рискове."
Последвайте канала на
Свързани новини
![Какво представляват агентите с изкуствен интелект?](https://img2.novini.bg/uploads/news_pictures/2024-28/big/957197.png)
Какво представляват агентите с изкуствен интелект?
11 юли 202410:40
![Конкурент на OpenAI обяви най-мощния изкуствен интелект](https://img2.novini.bg/uploads/news_pictures/2024-25/big/952911.png)
Конкурент на OpenAI обяви най-мощния изкуствен интелект
21 юни 202412:35
![Hoвият cтapтъп нa Иля Cyцĸeвep ще създава безопасен изкуствен интелект, който е по-умен от човека](https://img2.novini.bg/uploads/news_pictures/2024-25/big/952562.png)
Hoвият cтapтъп нa Иля Cyцĸeвep ще създава безопасен изкуствен интелект, който е по-умен от човека
20 юни 202411:00
![Квантовият изкуствен интелект: повече, отколкото можем да си представим](https://img2.novini.bg/uploads/news_pictures/2024-25/big/952443.png)
Квантовият изкуствен интелект: повече, отколкото можем да си представим
19 юни 202417:15
![Сам Алтман си призна, че в OpenAI нямат идея как работи собственият им изкуствен интелект](https://img2.novini.bg/uploads/news_pictures/2024-23/big/948648.jpg)
Сам Алтман си призна, че в OpenAI нямат идея как работи собственият им изкуствен интелект
05 юни 202414:02
![Кажи „да“ на алгоритъма: Япония бори демографската криза с изкуствен интелект](https://img2.novini.bg/uploads/news_pictures/2024-08/big/923827.png)
Кажи „да“ на алгоритъма: Япония бори демографската криза с изкуствен интелект
19 февруари 202412:38
![Започна експедиция до останките на "Титаник"](https://img2.novini.bg/uploads/news_pictures/2024-29/big/957977.png)
Започна експедиция до останките на "Титаник"
15 юли 202413:14
![Испания ликува, а Мадрид отпразнува рекордната титла](https://sportal365images.com/process/smp-images-production/sportal.bg/15072024/34661cde-8e56-4547-b334-7660492faba3.jpg?operations=crop(0:0:4692:2639),fit(968:545))
Испания ликува, а Мадрид отпразнува рекордната титла
![Десподов с обширно интервю пред гръцка медия за старта във футбола, трансфера в ПАОК и разликите между България и южната ни съседка](https://sportal365images.com/process/smp-images-production/sportal.bg/03062024/d27b8a7a-83c1-41fe-9e48-7293857cbc35.jpg?operations=crop(0:38:2952:1698),fit(968:545))
Десподов с обширно интервю пред гръцка медия за старта във футбола, трансфера в ПАОК и разликите между България и южната ни съседка
![Жиру потвърди, че спира с Франция](https://sportal365images.com/process/smp-images-production/sportal.bg/10072024/4d92ab7e-0806-4699-a1ab-942215796251.jpeg?operations=crop(0:325:4166:2668),fit(968:545))
Жиру потвърди, че спира с Франция
![Боримиров: В следващите няколко дни ще платим и главницата към Столична община](https://sportal365images.com/process/smp-images-production/sportal.bg/04062024/a27cedcd-189f-4ad6-8abe-2e8d3d251d06.jpg?operations=autocrop(968:545))
Боримиров: В следващите няколко дни ще платим и главницата към Столична община
![“Контра”: С какво Испания превъзхождаше останалите на Евро 2024](https://sportal365images.com/process/smp-images-production/sportal.bg/07072024/81b3396d-bfce-4f19-950a-8abfb2766155.png?operations=crop(0:0:1920:1080),fit(968:545))
“Контра”: С какво Испания превъзхождаше останалите на Евро 2024
![„Вабанк“: Има ли изненадани, че Испания е шампион](https://sportal365images.com/process/smp-images-production/sportal.bg/15072024/b88dcec8-56bb-4c0b-98f8-496a6abe936b.png?operations=autocrop(968:545))
„Вабанк“: Има ли изненадани, че Испания е шампион
Коментари 1
ДобавиДобави коментар
Водещи новини
![Лунната енергия се слива със силите на Земята в този ден в едно цяло](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958131.jpg)
Лунната енергия се слива със силите на Земята в този ден в едно цяло
16 юли 202405:52
![Ето я декларацията, която от ПП-ДБ изпратиха на останалите партии](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958101.jpg)
Ето я декларацията, която от ПП-ДБ изпратиха на останалите партии
15 юли 202418:37
![Хамид Хамид: Ще докажем, че деребеите в ДПС имат многомилионен скрит бизнес с олигарси от години](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958104.jpg)
Хамид Хамид: Ще докажем, че деребеите в ДПС имат многомилионен скрит бизнес с олигарси от години
15 юли 202418:46
![Водещите новини! ПП-ДБ предлагат първо нови закони, а чак после – нов кабинет. Стрелецът на Тръмп бил отхвърлян и тормозен в училище (и още…)](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958107.jpg)
Водещите новини! ПП-ДБ предлагат първо нови закони, а чак после – нов кабинет. Стрелецът на Тръмп бил отхвърлян и тормозен в училище (и още…)
15 юли 202419:25
![Слави Трифонов: ИТН няма да бъде просто гумен печат на предложените от ППДБ закони](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958114.jpg)
Слави Трифонов: ИТН няма да бъде просто гумен печат на предложените от ППДБ закони
15 юли 202420:30
![Комисар Джартов: Поискахме два хеликоптера от чужбина за борбата с пожарите](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958115.png)
Комисар Джартов: Поискахме два хеликоптера от чужбина за борбата с пожарите
15 юли 202420:35
![Огънят изпепели къща във вилната зона на Стара Загора, започна евакуация](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958124.jpg)
Огънят изпепели къща във вилната зона на Стара Загора, започна евакуация
15 юли 202422:01
![19-годишен е с тежки изгаряния, опитал да спаси пчелина си от пожарите в Свиленградско](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958108.jpg)
19-годишен е с тежки изгаряния, опитал да спаси пчелина си от пожарите в Свиленградско
15 юли 202419:33
![Пожар в мол в Пловдив, евакуират хора](https://img2.novini.bg/uploads/news_pictures/2024-29/big/958112.jpg)
Пожар в мол в Пловдив, евакуират хора
15 юли 202420:07
2024.07.15 | 16:39