-
21 май 2024 11:24
- 3105
- 3
![Секс партита и LSD: какво се случва зад кулисите на OpenAI?](https://img2.novini.bg/uploads/news_pictures/2024-21/big/945240.jpg)
Преди няколко дена Жан Лейке напусна OpenAI. Изследователят бе шеф на екип, който трябваше да предотврати рисковете от създаването на AGI - всеобщ изкуствен интелект, чиито възможности са равни или по-високи от човешките.
"Не съм съгласен с ръководството на OpenAI относно основните приоритети на компанията от доста време, докато най-накрая достигнахме точка на пречупване. Вярвам, че много по-голяма част от ресурсите ни трябва да бъде изразходвани за подготовка за следващите поколения модели, за това те да са наистина сигурни и безопасни. За това какво ще е въздействието им върху обществото. Тези проблеми са доста трудни за коригиране и съм загрижен, че не сме на траектория да стигнем до там. През последните няколко месеца екипът ми плаваше срещу течението. Борехме се за изчислителна мощ, за да можем да провеждаме изследванията си, но това ставаше все по-трудно", казва той.
"Изграждането на по-умни от човека машини е едно изключително опасно начинание. OpenAI поема огромна отговорност от името на цялото човечество. Но през последните години културата и процесите на безопасност заеха заден план пред лъскавите продукти. Отдавна е време да се заемем невероятно сериозно с последиците от AGI", написа Жан Лейке в социалната мрежа Х.
Той завършва своята публикация със странно звучащата фраза "Научи се да почувстваш AGI".
Преди време стана ясно, че главният учен на OpenAI, Иля Суцкевер, е обсебен от фразата "почувствай AGI". Той дори провеждал полу-религиозни церемонии в името на всеобщия изкуствен интелект.
"Ако не чувствате AGI, когато се събудите и когато заспите, не трябва да сте в тази компания", заяви преди време OpenAI.
Изглежда намигването към тази фраза е отприщило теч на доста "пикантна" информация.
Соня Джоузеф е специалист по машинно обучение от Принстън, като в момента тя е докторант, изследващ мултимодална интерпретируемост. Предишната ѝ среда е била съставена от специалисти по AI в Силициевата долина, сред които и много служители от OpenAI.
"Да си активна част от хакерската сцена на Силицевата долина, е като да имаш кариера на политик в сянка", започва Соня Джоузеф.
"Когато бях там попаднах в средата на елитни кръгове в сферата на AI-технологиите. Виждала съм някои тревожни неща около социалните кръгове на едни от първите служители в OpenAI, техните приятели и колеги-предприемачи, за които досега съм мълчала. Не е мое право да говоря защо Ян Лейке и екипът на супергрупата подадоха оставки. Нямам представа защо и не мога да направя никакви претенции. Вярвам обаче, че моите културни наблюдения върху средата са доста показателни за случващото се в нея.
Секс партита и тежка употреба на LSD от някои елитни изследователи на AI са практика, която създава негативни последствия за жените в сферата и за безопасността около AGI като цяло. Те са емблематични за по-широки проблеми: климат на принуда, който нормализира безразсъдството и преминаването на граници. Няма нищо лошо в секс партитата и тежката употреба на LSD на теория, но съчетано със сянката на групи от интереси със 100 милиарда долара в банковата сметка това води да една наистина повредена социална динамика. Представете си банкерите от Уолстрийт от 2008 г. на LSD - ситуацията не вещае нищо добро за безопасността на AI. Жените са като канарчетата в мината. Те често са първите, които разбират, че нещо се е объркало ужасно, и усещат културния въглероден окис във въздуха. И когато повдигна проблема усещам моментално затваряне и групово мислене.Вероятно тези проблеми всъщност не са на OpenAI, а са симптом на много по-дълбоко гниене в Долината. Иска ми се да мога да кажа повече, но вероятно не трябва. Не пиша това от името на никой и не искам да генерализирам. Има толкова много брилянтни, мили, невероятни хора в OpenAI и има толкова много брилянтни, мили и невероятни хора в Anthropic/EA/Google. Аз съм агностик. Моята единствена лоялност е уважението и достойнството на човешкия живот", пише Соня Джоузеф.
"Не съм под NDA. Никога не съм работила за OpenAI", допълва Джоузеф. "Просто наблюдавах заформилата се култура около изследователите на AI в Сан-Франциско, чувах вътрешна информация, знаех за задкулисни сделки и се запознах с доста "изгорели".
Трудно е да се направят изводи от изказванията на Джоузеф, защото те не са конкретни. Те обаче звучат логично на фона на корпоративната култура в IT сектора, където "изкарването на продукт по-бързо от конкуренцията" е водещ принцип. Все повече бивши служители от сферата на изкуственият интелект "бият камбаната", че безопасността и последствията от технологията за обществото стоят на заден план. Междувременно всички лидери в сегмента са се прицелили в разработването на AGI - изкуствен интелект с равни или по-големи умствени способности от нашите собствени, пише dir.bg.
Последвайте канала на
Свързани новини
![Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект](https://img2.novini.bg/uploads/news_pictures/2024-20/big/943335.jpg)
Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект
13 май 202414:59
![Сам Алтман: Ядреният синтез може да бъде решение на проблема с „апетита“ на изкуствения интелект](https://img2.novini.bg/uploads/news_pictures/2024-13/big/933177.jpg)
Сам Алтман: Ядреният синтез може да бъде решение на проблема с „апетита“ на изкуствения интелект
27 март 202417:16
![Илон Мъск съди Сам Алтман и OpenAI](https://img2.novini.bg/uploads/news_pictures/2024-09/big/926780.jpg)
Илон Мъск съди Сам Алтман и OpenAI
01 март 202412:15
![Сам Алтман: Очакваният нов модел ChatGPT ще бъде по-умен](https://img2.novini.bg/uploads/news_pictures/2024-07/big/922395.jpg)
Сам Алтман: Очакваният нов модел ChatGPT ще бъде по-умен
13 февруари 202412:07
![Сам Алтман: Скоро очаквайте изкуствен интелект със способностите на човек](https://img2.novini.bg/uploads/news_pictures/2024-03/big/916244.jpg)
Сам Алтман: Скоро очаквайте изкуствен интелект със способностите на човек
18 януари 202414:06
![Изгониха Сам Алтман от OpenAI](https://img2.novini.bg/uploads/news_pictures/2023-46/big/903064.jpg)
Изгониха Сам Алтман от OpenAI
18 ноември 202314:22
![Кой ще е новият господар на Земята след човека? Отговаря изкуственият интелект Chat GPT](https://img2.novini.bg/uploads/news_pictures/2024-21/big/945578.png)
Кой ще е новият господар на Земята след човека? Отговаря изкуственият интелект Chat GPT
22 май 202412:56
![Левски зарадва 10 000 с нова голеада](https://sportal365images.com/process/smp-images-production/sportal.bg/26072024/dea1e85f-85ca-47a9-9897-3666e5b1648f.jpg?operations=crop(56:0:2252:1234),fit(968:545))
Левски зарадва 10 000 с нова голеада
![От днес светът е Олимпиада!](https://sportal365images.com/process/smp-images-production/sportal.bg/26072024/14286e51-e1e7-47de-bd25-fd56027bbf75.jpg?operations=autocrop(968:545))
От днес светът е Олимпиада!
![Станислав Генчев: Не трябва да се задоволяваме с това, което сме постигнали](https://sportal365images.com/process/smp-images-production/sportal.bg/26072024/650fe188-888d-4ed4-b2cf-0e04f80d9445.jpg?operations=crop(0:39:5472:3117),fit(968:545))
Станислав Генчев: Не трябва да се задоволяваме с това, което сме постигнали
![Арда удари Крумовград в Кърджали за първа победа през сезона](https://sportal365images.com/process/smp-images-production/sportal.bg/26072024/251b9eeb-9469-414b-86cd-c0ea4561f42a.jpg?operations=crop(0:132:3218:1942),fit(968:545))
Арда удари Крумовград в Кърджали за първа победа през сезона
![Официално: ЦСКА - София представи пето ново попълнение](https://sportal365images.com/process/smp-images-production/sportal.bg/26072024/8ae066a2-5052-4867-b6bd-e61459f705c8.jpg?operations=autocrop(968:545))
Официално: ЦСКА - София представи пето ново попълнение
![Огромни проблеми в националния отбор преди квалификациите за ЕвроБаскет 2025](https://sportal365images.com/process/smp-images-production/sportal.bg/26022023/30efe539-125e-4c94-8663-1bed80382a91.jpg?operations=crop(0:0:3196:1798),fit(968:545))
Огромни проблеми в националния отбор преди квалификациите за ЕвроБаскет 2025
Коментари 3
Добави![](https://novini.bg/statics/assets/img/icon_0.jpg)
2024.05.21 | 11:30
![](https://novini.bg/statics/assets/img/icon_0.jpg)
2024.05.21 | 11:56
Добави коментар
Водещи новини
![Грандиозно откриване на Олимпиадата в Париж](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960861.jpg)
Грандиозно откриване на Олимпиадата в Париж
26 юли 202421:37
![Депутатите излизат във ваканция от 17 август](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960842.jpg)
Депутатите излизат във ваканция от 17 август
26 юли 202418:07
![Боян Магдалинчев, ВСС: Логично е да се стартира процедура за избор на главен прокурор](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960851.jpg)
Боян Магдалинчев, ВСС: Логично е да се стартира процедура за избор на главен прокурор
26 юли 202419:46
![Ситуацията в община Елин Пелин е овладяна](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960863.jpg)
Ситуацията в община Елин Пелин е овладяна
26 юли 202422:07
![НА ЖИВО: Всичко важно за взривовете в складове за пиротехника край Елин Пелин](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960692.png)
НА ЖИВО: Всичко важно за взривовете в складове за пиротехника край Елин Пелин
26 юли 202422:08
![Хеликоптер е изпратен да гаси пожара на българо-гръцката граница](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960857.jpg)
Хеликоптер е изпратен да гаси пожара на българо-гръцката граница
26 юли 202420:43
![София остана без главен архитект – Здравко Здравков подаде оставка](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960850.jpg)
София остана без главен архитект – Здравко Здравков подаде оставка
26 юли 202419:33
![Тежка катастрофа в Бургаско взе жертва](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960859.jpg)
Тежка катастрофа в Бургаско взе жертва
26 юли 202421:02
![Нетаняху посети Тръмп в имението му във Флорида](https://img2.novini.bg/uploads/news_pictures/2024-30/big/960860.jpg)
Нетаняху посети Тръмп в имението му във Флорида
26 юли 202421:25
2024.05.25 | 05:51