-
21 май 2024 11:24
- 3105
- 3
![Секс партита и LSD: какво се случва зад кулисите на OpenAI?](https://img2.novini.bg/uploads/news_pictures/2024-21/big/945240.jpg)
Преди няколко дена Жан Лейке напусна OpenAI. Изследователят бе шеф на екип, който трябваше да предотврати рисковете от създаването на AGI - всеобщ изкуствен интелект, чиито възможности са равни или по-високи от човешките.
"Не съм съгласен с ръководството на OpenAI относно основните приоритети на компанията от доста време, докато най-накрая достигнахме точка на пречупване. Вярвам, че много по-голяма част от ресурсите ни трябва да бъде изразходвани за подготовка за следващите поколения модели, за това те да са наистина сигурни и безопасни. За това какво ще е въздействието им върху обществото. Тези проблеми са доста трудни за коригиране и съм загрижен, че не сме на траектория да стигнем до там. През последните няколко месеца екипът ми плаваше срещу течението. Борехме се за изчислителна мощ, за да можем да провеждаме изследванията си, но това ставаше все по-трудно", казва той.
"Изграждането на по-умни от човека машини е едно изключително опасно начинание. OpenAI поема огромна отговорност от името на цялото човечество. Но през последните години културата и процесите на безопасност заеха заден план пред лъскавите продукти. Отдавна е време да се заемем невероятно сериозно с последиците от AGI", написа Жан Лейке в социалната мрежа Х.
Той завършва своята публикация със странно звучащата фраза "Научи се да почувстваш AGI".
Преди време стана ясно, че главният учен на OpenAI, Иля Суцкевер, е обсебен от фразата "почувствай AGI". Той дори провеждал полу-религиозни церемонии в името на всеобщия изкуствен интелект.
"Ако не чувствате AGI, когато се събудите и когато заспите, не трябва да сте в тази компания", заяви преди време OpenAI.
Изглежда намигването към тази фраза е отприщило теч на доста "пикантна" информация.
Соня Джоузеф е специалист по машинно обучение от Принстън, като в момента тя е докторант, изследващ мултимодална интерпретируемост. Предишната ѝ среда е била съставена от специалисти по AI в Силициевата долина, сред които и много служители от OpenAI.
"Да си активна част от хакерската сцена на Силицевата долина, е като да имаш кариера на политик в сянка", започва Соня Джоузеф.
"Когато бях там попаднах в средата на елитни кръгове в сферата на AI-технологиите. Виждала съм някои тревожни неща около социалните кръгове на едни от първите служители в OpenAI, техните приятели и колеги-предприемачи, за които досега съм мълчала. Не е мое право да говоря защо Ян Лейке и екипът на супергрупата подадоха оставки. Нямам представа защо и не мога да направя никакви претенции. Вярвам обаче, че моите културни наблюдения върху средата са доста показателни за случващото се в нея.
Секс партита и тежка употреба на LSD от някои елитни изследователи на AI са практика, която създава негативни последствия за жените в сферата и за безопасността около AGI като цяло. Те са емблематични за по-широки проблеми: климат на принуда, който нормализира безразсъдството и преминаването на граници. Няма нищо лошо в секс партитата и тежката употреба на LSD на теория, но съчетано със сянката на групи от интереси със 100 милиарда долара в банковата сметка това води да една наистина повредена социална динамика. Представете си банкерите от Уолстрийт от 2008 г. на LSD - ситуацията не вещае нищо добро за безопасността на AI. Жените са като канарчетата в мината. Те често са първите, които разбират, че нещо се е объркало ужасно, и усещат културния въглероден окис във въздуха. И когато повдигна проблема усещам моментално затваряне и групово мислене.Вероятно тези проблеми всъщност не са на OpenAI, а са симптом на много по-дълбоко гниене в Долината. Иска ми се да мога да кажа повече, но вероятно не трябва. Не пиша това от името на никой и не искам да генерализирам. Има толкова много брилянтни, мили, невероятни хора в OpenAI и има толкова много брилянтни, мили и невероятни хора в Anthropic/EA/Google. Аз съм агностик. Моята единствена лоялност е уважението и достойнството на човешкия живот", пише Соня Джоузеф.
"Не съм под NDA. Никога не съм работила за OpenAI", допълва Джоузеф. "Просто наблюдавах заформилата се култура около изследователите на AI в Сан-Франциско, чувах вътрешна информация, знаех за задкулисни сделки и се запознах с доста "изгорели".
Трудно е да се направят изводи от изказванията на Джоузеф, защото те не са конкретни. Те обаче звучат логично на фона на корпоративната култура в IT сектора, където "изкарването на продукт по-бързо от конкуренцията" е водещ принцип. Все повече бивши служители от сферата на изкуственият интелект "бият камбаната", че безопасността и последствията от технологията за обществото стоят на заден план. Междувременно всички лидери в сегмента са се прицелили в разработването на AGI - изкуствен интелект с равни или по-големи умствени способности от нашите собствени, пише dir.bg.
Последвайте канала на
Свързани новини
![Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект](https://img2.novini.bg/uploads/news_pictures/2024-20/big/943335.jpg)
Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект
13 май 202414:59
![Сам Алтман: Ядреният синтез може да бъде решение на проблема с „апетита“ на изкуствения интелект](https://img2.novini.bg/uploads/news_pictures/2024-13/big/933177.jpg)
Сам Алтман: Ядреният синтез може да бъде решение на проблема с „апетита“ на изкуствения интелект
27 март 202417:16
![Илон Мъск съди Сам Алтман и OpenAI](https://img2.novini.bg/uploads/news_pictures/2024-09/big/926780.jpg)
Илон Мъск съди Сам Алтман и OpenAI
01 март 202412:15
![Сам Алтман: Очакваният нов модел ChatGPT ще бъде по-умен](https://img2.novini.bg/uploads/news_pictures/2024-07/big/922395.jpg)
Сам Алтман: Очакваният нов модел ChatGPT ще бъде по-умен
13 февруари 202412:07
![Сам Алтман: Скоро очаквайте изкуствен интелект със способностите на човек](https://img2.novini.bg/uploads/news_pictures/2024-03/big/916244.jpg)
Сам Алтман: Скоро очаквайте изкуствен интелект със способностите на човек
18 януари 202414:06
![Изгониха Сам Алтман от OpenAI](https://img2.novini.bg/uploads/news_pictures/2023-46/big/903064.jpg)
Изгониха Сам Алтман от OpenAI
18 ноември 202314:22
![Кой ще е новият господар на Земята след човека? Отговаря изкуственият интелект Chat GPT](https://img2.novini.bg/uploads/news_pictures/2024-21/big/945578.png)
Кой ще е новият господар на Земята след човека? Отговаря изкуственият интелект Chat GPT
22 май 202412:56
![Успешно начало за Кристиан Василев в сериите в Париж 2024](https://sportal365images.com/process/smp-images-production/sportal.bg/27072024/a32ea879-1622-4a09-b483-850412aaec12.jpg?operations=crop(0:523:5023:3349),fit(968:545))
Успешно начало за Кристиан Василев в сериите в Париж 2024
![Деси Ангелова се класира за четвърфиналите на скиф в Париж 2024](https://sportal365images.com/process/smp-images-production/sportal.bg/27072024/821854dc-1d61-4157-9223-5d31577e8376.png?operations=autocrop(968:545))
Деси Ангелова се класира за четвърфиналите на скиф в Париж 2024
![Българското участие в Париж днес](https://sportal365images.com/process/smp-images-production/sportal.bg/27072024/0f8598ec-e0d3-4452-a7f6-644d3443fb37.jpg?operations=crop(0:174:4118:2491),fit(968:545))
Българското участие в Париж днес
![ЦСКА - София посреща Хебър с единствената мисъл за победа](https://sportal365images.com/process/smp-images-production/sportal.bg/26072024/8741b429-5ba8-49ba-918f-78524bf7aa9a.jpg?operations=crop(0:0:1920:1080),fit(968:545))
ЦСКА - София посреща Хебър с единствената мисъл за победа
![Париж 2024 на живо: Първата голяма изненада е факт](https://sportal365images.com/process/smp-images-production/sportal.bg/27072024/766be78f-83ff-48e0-a78a-def5d422971f.jpg?operations=autocrop(968:545))
Париж 2024 на живо: Първата голяма изненада е факт
![Кръгът във Втора лига започва с пет срещи](https://sportal365images.com/process/smp-images-production/sportal.bg/18072024/3de64d26-39cd-4fb0-a767-994481be97a1.jpg?operations=crop(0:0:1920:1080),fit(968:545))
Кръгът във Втора лига започва с пет срещи
Коментари 3
Добави![](https://novini.bg/statics/assets/img/icon_0.jpg)
2024.05.21 | 11:30
![](https://novini.bg/statics/assets/img/icon_0.jpg)
2024.05.21 | 11:56
Добави коментар
Водещи новини
![Доц. Киселова за решението на Конституционния съд: Победата не е пълна](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960938.png)
Доц. Киселова за решението на Конституционния съд: Победата не е пълна
27 юли 202414:19
![Балабанов: Решението на Конституционния съд е политическо](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960911.jpg)
Балабанов: Решението на Конституционния съд е политическо
27 юли 202411:03
![Терзиев: Една от амбициозните ни цели е София да бъде град с нулеви емисии до 2030 г.](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960917.jpg)
Терзиев: Една от амбициозните ни цели е София да бъде град с нулеви емисии до 2030 г.
27 юли 202411:56
![Вълна от салмонела залива България](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960921.jpg)
Вълна от салмонела залива България
27 юли 202412:14
![Жестока катастрофа на АМ "Тракия", има загинали](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960915.jpg)
Жестока катастрофа на АМ "Тракия", има загинали
27 юли 202411:32
![Критична е ситуацията с гръцкия пожар: Огънят е навлязъл на около 30-40 метра в българска територия](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960924.jpg)
Критична е ситуацията с гръцкия пожар: Огънят е навлязъл на около 30-40 метра в българска територия
27 юли 202412:31
![Ректорът на МГУ проф. Ивайло Копрев каза тежката си дума, посочи причината за взривовете](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960908.jpg)
Ректорът на МГУ проф. Ивайло Копрев каза тежката си дума, посочи причината за взривовете
27 юли 202410:51
![Три часа преди трагедията в Елин Пелин: Разкриха важен разговор с доц. Петър Шишков](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960925.jpg)
Три часа преди трагедията в Елин Пелин: Разкриха важен разговор с доц. Петър Шишков
27 юли 202412:45
![Майката на починалото момиче след взрива в Елин Пелин: Тази нощ душата на Криси отиде при татко ѝ](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960916.jpg)
Майката на починалото момиче след взрива в Елин Пелин: Тази нощ душата на Криси отиде при татко ѝ
27 юли 202411:48
2024.05.25 | 05:51