-
15 юли 2024 12:59
- 618
- 1
Бивш изследовател на OpenAI споделя, че е напуснал компанията, след като е разбрал, че тя оставя безопасността на заден план, за да преследва бърза печалба. Бившият член на екипа на Superalignment Уилям Сондърс направи разкритието в подкаста на Алекс Кантровиц.
"По време на трите ми години в OpenAI понякога си задавах въпрос. Дали пътят, по който вървеше OpenAI, приличаше повече на програмата Аполо или повече на Титаник?"
Сондърс твърди, че Титаник може да е бил наричан "непотопяем, но междувременно не е имало достатъчно спасителни лодки за всички и така, когато бедствието все пак се случва, броя на загиналите е непропорционално висок".
Бившият служител обвини OpenAI, че "гигантът дава приоритет на извеждането на по-нови, по-лъскави продукти" точно както е правила преди около век вече несъществуващата британска корабна компания White Star Line.
Неговите коментари подчертават нарастващата загриженост около разработката на всеобщ изкуствен интелект (AGI) - нещо, което в момента остава изцяло теоретично, но е източник на голям интерес за OpenAI и Сам Алтман.
Ангажиментът на OpenAI към безопасността също е нестабилен, що се отнася до непрекъснато променящата се корпоративна структура. По-рано тази година главният изпълнителен директор на OpenAI Сам Олтман обяви, че разпуска екипа на Superalignment, ориентиран към безопасността - част от който някога е бил Сондърс, пише dir.bg.
Алтман твърди от самото начало, че иска да реализира AGI по безопасен начин. Спроед критиците обаче компанията играе бързо и свободно с правилата и дава приоритет на пускането на нови чатботове. Освен това тя е набрала сериозни инвестиции и има партньорства за милиарди долари с технологични гиганти като Microsoft.
"Не е възможно да се разработи AGI или каквато и да е нова технология с нулев риск", добавя Сондърс в имейл до Business Insider. Той посочва, че програмата Аполо също е имала пропуски в безопасността.
"Това, което бих искал да видя, е компанията да предприеме всички възможни разумни стъпки, за да предотврати тези рискове."
Последвайте канала на
Свързани новини
Какво представляват агентите с изкуствен интелект?
11 юли 202410:40
Конкурент на OpenAI обяви най-мощния изкуствен интелект
21 юни 202412:35
Hoвият cтapтъп нa Иля Cyцĸeвep ще създава безопасен изкуствен интелект, който е по-умен от човека
20 юни 202411:00
Квантовият изкуствен интелект: повече, отколкото можем да си представим
19 юни 202417:15
Сам Алтман си призна, че в OpenAI нямат идея как работи собственият им изкуствен интелект
05 юни 202414:02
Кажи „да“ на алгоритъма: Япония бори демографската криза с изкуствен интелект
19 февруари 202412:38
Започна експедиция до останките на "Титаник"
15 юли 202413:14
,fit(968:545))
Испания ликува, а Мадрид отпразнува рекордната титла
,fit(968:545))
Десподов с обширно интервю за старта във футбола, трансфера в ПАОК и разликите между България и Гърция
)
Меси проговори след контузията
,fit(968:545))
Жиру потвърди, че спира с Франция
,fit(968:545))
Кейн няма да напуска "Трите лъва"
)
„Вабанк“: Има ли изненадани, че Испания е шампион
Коментари 1
ДобавиДобави коментар
Водещи новини
Денков: Кабинет, но само след мнозинство по 7 точки на ПП-ДБ
16 юли 202408:25
Кристина Петкова, ПП-ДБ: Най-лесно е да отидем на избори, винаги сме имали много резервирано отношение към Радев
16 юли 202408:33
Надежда Йорданова: Не нарушаваме Конституцията, България е в безпрецедентна криза
16 юли 202407:47
Халил Летифов: ДПС ще влезе монолитно и стабилно в едни нови предсрочни парламентарни избори
16 юли 202407:55
Нинова се завръща в БСП с хитър ход
16 юли 202408:39
Британският премиер започва преглед за укрепване на отбраната на Обединеното кралство
16 юли 202406:05
Украинец се удави в Поморие
16 юли 202408:06
Северна Корея заплаши Южна Корея с "опустошителни последици"
16 юли 202406:33
Войник бе намушкан в Париж
16 юли 202406:36
2024.07.15 | 16:39