-
21 май 2024 11:24
- 3291
- 3
![Секс партита и LSD: какво се случва зад кулисите на OpenAI?](https://img2.novini.bg/uploads/news_pictures/2024-21/big/945240.jpg)
Преди няколко дена Жан Лейке напусна OpenAI. Изследователят бе шеф на екип, който трябваше да предотврати рисковете от създаването на AGI - всеобщ изкуствен интелект, чиито възможности са равни или по-високи от човешките.
"Не съм съгласен с ръководството на OpenAI относно основните приоритети на компанията от доста време, докато най-накрая достигнахме точка на пречупване. Вярвам, че много по-голяма част от ресурсите ни трябва да бъде изразходвани за подготовка за следващите поколения модели, за това те да са наистина сигурни и безопасни. За това какво ще е въздействието им върху обществото. Тези проблеми са доста трудни за коригиране и съм загрижен, че не сме на траектория да стигнем до там. През последните няколко месеца екипът ми плаваше срещу течението. Борехме се за изчислителна мощ, за да можем да провеждаме изследванията си, но това ставаше все по-трудно", казва той.
"Изграждането на по-умни от човека машини е едно изключително опасно начинание. OpenAI поема огромна отговорност от името на цялото човечество. Но през последните години културата и процесите на безопасност заеха заден план пред лъскавите продукти. Отдавна е време да се заемем невероятно сериозно с последиците от AGI", написа Жан Лейке в социалната мрежа Х.
Той завършва своята публикация със странно звучащата фраза "Научи се да почувстваш AGI".
Преди време стана ясно, че главният учен на OpenAI, Иля Суцкевер, е обсебен от фразата "почувствай AGI". Той дори провеждал полу-религиозни церемонии в името на всеобщия изкуствен интелект.
"Ако не чувствате AGI, когато се събудите и когато заспите, не трябва да сте в тази компания", заяви преди време OpenAI.
Изглежда намигването към тази фраза е отприщило теч на доста "пикантна" информация.
Соня Джоузеф е специалист по машинно обучение от Принстън, като в момента тя е докторант, изследващ мултимодална интерпретируемост. Предишната ѝ среда е била съставена от специалисти по AI в Силициевата долина, сред които и много служители от OpenAI.
"Да си активна част от хакерската сцена на Силицевата долина, е като да имаш кариера на политик в сянка", започва Соня Джоузеф.
"Когато бях там попаднах в средата на елитни кръгове в сферата на AI-технологиите. Виждала съм някои тревожни неща около социалните кръгове на едни от първите служители в OpenAI, техните приятели и колеги-предприемачи, за които досега съм мълчала. Не е мое право да говоря защо Ян Лейке и екипът на супергрупата подадоха оставки. Нямам представа защо и не мога да направя никакви претенции. Вярвам обаче, че моите културни наблюдения върху средата са доста показателни за случващото се в нея.
Секс партита и тежка употреба на LSD от някои елитни изследователи на AI са практика, която създава негативни последствия за жените в сферата и за безопасността около AGI като цяло. Те са емблематични за по-широки проблеми: климат на принуда, който нормализира безразсъдството и преминаването на граници. Няма нищо лошо в секс партитата и тежката употреба на LSD на теория, но съчетано със сянката на групи от интереси със 100 милиарда долара в банковата сметка това води да една наистина повредена социална динамика. Представете си банкерите от Уолстрийт от 2008 г. на LSD - ситуацията не вещае нищо добро за безопасността на AI. Жените са като канарчетата в мината. Те често са първите, които разбират, че нещо се е объркало ужасно, и усещат културния въглероден окис във въздуха. И когато повдигна проблема усещам моментално затваряне и групово мислене.Вероятно тези проблеми всъщност не са на OpenAI, а са симптом на много по-дълбоко гниене в Долината. Иска ми се да мога да кажа повече, но вероятно не трябва. Не пиша това от името на никой и не искам да генерализирам. Има толкова много брилянтни, мили, невероятни хора в OpenAI и има толкова много брилянтни, мили и невероятни хора в Anthropic/EA/Google. Аз съм агностик. Моята единствена лоялност е уважението и достойнството на човешкия живот", пише Соня Джоузеф.
"Не съм под NDA. Никога не съм работила за OpenAI", допълва Джоузеф. "Просто наблюдавах заформилата се култура около изследователите на AI в Сан-Франциско, чувах вътрешна информация, знаех за задкулисни сделки и се запознах с доста "изгорели".
Трудно е да се направят изводи от изказванията на Джоузеф, защото те не са конкретни. Те обаче звучат логично на фона на корпоративната култура в IT сектора, където "изкарването на продукт по-бързо от конкуренцията" е водещ принцип. Все повече бивши служители от сферата на изкуственият интелект "бият камбаната", че безопасността и последствията от технологията за обществото стоят на заден план. Междувременно всички лидери в сегмента са се прицелили в разработването на AGI - изкуствен интелект с равни или по-големи умствени способности от нашите собствени, пише dir.bg.
Последвайте канала на
Свързани новини
![Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект](https://img2.novini.bg/uploads/news_pictures/2024-20/big/943335.jpg)
Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект
13 май 202414:59
![Сам Алтман: Ядреният синтез може да бъде решение на проблема с „апетита“ на изкуствения интелект](https://img2.novini.bg/uploads/news_pictures/2024-13/big/933177.jpg)
Сам Алтман: Ядреният синтез може да бъде решение на проблема с „апетита“ на изкуствения интелект
27 март 202417:16
![Илон Мъск съди Сам Алтман и OpenAI](https://img2.novini.bg/uploads/news_pictures/2024-09/big/926780.jpg)
Илон Мъск съди Сам Алтман и OpenAI
01 март 202412:15
![Сам Алтман: Очакваният нов модел ChatGPT ще бъде по-умен](https://img2.novini.bg/uploads/news_pictures/2024-07/big/922395.jpg)
Сам Алтман: Очакваният нов модел ChatGPT ще бъде по-умен
13 февруари 202412:07
![Сам Алтман: Скоро очаквайте изкуствен интелект със способностите на човек](https://img2.novini.bg/uploads/news_pictures/2024-03/big/916244.jpg)
Сам Алтман: Скоро очаквайте изкуствен интелект със способностите на човек
18 януари 202414:06
![Изгониха Сам Алтман от OpenAI](https://img2.novini.bg/uploads/news_pictures/2023-46/big/903064.jpg)
Изгониха Сам Алтман от OpenAI
18 ноември 202314:22
![Дуров се обяви за баща на 100 деца – Илон Мъск: "Аматьорско ниво"](https://img2.novini.bg/uploads/news_pictures/2024-31/big/961575.jpg)
Дуров се обяви за баща на 100 деца – Илон Мъск: "Аматьорско ниво"
30 юли 202415:52
![Кой ще е новият господар на Земята след човека? Отговаря изкуственият интелект Chat GPT](https://img2.novini.bg/uploads/news_pictures/2024-21/big/945578.png)
Кой ще е новият господар на Земята след човека? Отговаря изкуственият интелект Chat GPT
22 май 202412:56
![Много битка, малко положения и без победител между Спартак и Левски](https://sportal365images.com/process/smp-images-production/sportal.bg/31082024/09ee6244-c9a7-459b-a74c-d6484b551e96.jpg?operations=crop(0:74:3458:2020),fit(968:545))
Много битка, малко положения и без победител между Спартак и Левски
![Официално: Левски продаде Пламен Андреев на Фейенорд](https://sportal365images.com/process/smp-images-production/sportal.bg/15052022/ebb8bf9e-b4f4-4c6f-8de9-4f4b64c78144.jpg?operations=crop(0:6:6720:3786),fit(968:545))
Официално: Левски продаде Пламен Андреев на Фейенорд
![Генчев каза какво ще се случи в следващото гостуване и заяви: Не вкарахме, което е сигнал за нас](https://sportal365images.com/process/smp-images-production/sportal.bg/31082024/48e0f86b-5280-4786-9d3a-7748acfeaca2.jpg?operations=crop(0:34:4785:2726),fit(968:545))
Генчев каза какво ще се случи в следващото гостуване и заяви: Не вкарахме, което е сигнал за нас
![Крумовград взе глътка въздух с успех срещу последния Септември](https://sportal365images.com/process/smp-images-production/sportal.bg/31082024/37edc198-028a-4073-8e75-00c1c50a7879.jpg?operations=crop(115:259:995:754),fit(968:545))
Крумовград взе глътка въздух с успех срещу последния Септември
![Барселона показа страховита мощ и за малко да вкара десет гола](https://sportal365images.com/process/smp-images-production/sportal.bg/31082024/75d7a42b-db11-48c5-ad23-73a5970426c1.jpg?operations=autocrop(968:545))
Барселона показа страховита мощ и за малко да вкара десет гола
![Холанд продължава да води Ман Сити към победите и да торпилира Премиър лийг с хеттрик след хеттрик](https://sportal365images.com/process/smp-images-production/sportal.bg/31082024/9dc2c1f2-024d-4cb3-879c-8904cbdaa5a9.jpg?operations=crop(0:171:3648:2223),fit(968:545))
Холанд продължава да води Ман Сити към победите и да торпилира Премиър лийг с хеттрик след хеттрик
Коментари 3
Добави![](https://novini.bg/statics/assets/img/icon_0.jpg)
2024.05.25 | 05:51
Добави коментар
Водещи новини
![Километрична опашка от коли на границата с Гърция](https://img2.novini.bg/uploads/news_pictures/2024-35/big/968433.jpg)
Километрична опашка от коли на границата с Гърция
31 август 202418:45
![Верижна катастрофа на главния път между Бургас и Черноморец](https://img2.novini.bg/uploads/news_pictures/2024-35/big/968431.jpg)
Верижна катастрофа на главния път между Бургас и Черноморец
31 август 202418:14
![Близо 200 загинали в катастрофи за половин година, 4 хил. са ранените](https://img2.novini.bg/uploads/news_pictures/2024-35/big/968447.jpg)
Близо 200 загинали в катастрофи за половин година, 4 хил. са ранените
31 август 202420:45
![Илияна Йотова за скандалите в ДПС: Това е тревожен казус в навечерието на изборите](https://img2.novini.bg/uploads/news_pictures/2024-35/big/968445.jpg)
Илияна Йотова за скандалите в ДПС: Това е тревожен казус в навечерието на изборите
31 август 202420:30
![Подгонихме милиард за избори: Колко струва неразбирателството на политиците](https://img2.novini.bg/uploads/news_pictures/2024-35/big/968446.jpg)
Подгонихме милиард за избори: Колко струва неразбирателството на политиците
31 август 202420:36
![В Плевен се състоя бдение в памет на 16-годишното момче, което почина след падане с електрическа тротинетка](https://img2.novini.bg/uploads/news_pictures/2024-35/big/968450.jpg)
В Плевен се състоя бдение в памет на 16-годишното момче, което почина след падане с електрическа тротинетка
31 август 202421:11
![Обявиха причината за смъртта на стотици хиляди риби в залива на гръцкия град Волос](https://img2.novini.bg/uploads/news_pictures/2024-35/big/968440.jpg)
Обявиха причината за смъртта на стотици хиляди риби в залива на гръцкия град Волос
31 август 202419:45
![Силна буря връхлетя Атина, наводнени са пътища](https://img2.novini.bg/uploads/news_pictures/2024-35/big/968452.jpg)
Силна буря връхлетя Атина, наводнени са пътища
31 август 202421:26
![Украинският министър на отбраната: Уволнението на командващия украинските ВВС няма връзка с катастрофата на F-16](https://img2.novini.bg/uploads/news_pictures/2024-35/big/968437.jpg)
Украинският министър на отбраната: Уволнението на командващия украинските ВВС няма връзка с катастрофата на F-16
31 август 202419:32
2024.05.21 | 11:30
2024.05.21 | 11:56