-
21 май 2024 11:24
- 3611
- 3
Преди няколко дена Жан Лейке напусна OpenAI. Изследователят бе шеф на екип, който трябваше да предотврати рисковете от създаването на AGI - всеобщ изкуствен интелект, чиито възможности са равни или по-високи от човешките.
"Не съм съгласен с ръководството на OpenAI относно основните приоритети на компанията от доста време, докато най-накрая достигнахме точка на пречупване. Вярвам, че много по-голяма част от ресурсите ни трябва да бъде изразходвани за подготовка за следващите поколения модели, за това те да са наистина сигурни и безопасни. За това какво ще е въздействието им върху обществото. Тези проблеми са доста трудни за коригиране и съм загрижен, че не сме на траектория да стигнем до там. През последните няколко месеца екипът ми плаваше срещу течението. Борехме се за изчислителна мощ, за да можем да провеждаме изследванията си, но това ставаше все по-трудно", казва той.
"Изграждането на по-умни от човека машини е едно изключително опасно начинание. OpenAI поема огромна отговорност от името на цялото човечество. Но през последните години културата и процесите на безопасност заеха заден план пред лъскавите продукти. Отдавна е време да се заемем невероятно сериозно с последиците от AGI", написа Жан Лейке в социалната мрежа Х.
Той завършва своята публикация със странно звучащата фраза "Научи се да почувстваш AGI".
Преди време стана ясно, че главният учен на OpenAI, Иля Суцкевер, е обсебен от фразата "почувствай AGI". Той дори провеждал полу-религиозни церемонии в името на всеобщия изкуствен интелект.
"Ако не чувствате AGI, когато се събудите и когато заспите, не трябва да сте в тази компания", заяви преди време OpenAI.
Изглежда намигването към тази фраза е отприщило теч на доста "пикантна" информация.
Соня Джоузеф е специалист по машинно обучение от Принстън, като в момента тя е докторант, изследващ мултимодална интерпретируемост. Предишната ѝ среда е била съставена от специалисти по AI в Силициевата долина, сред които и много служители от OpenAI.
"Да си активна част от хакерската сцена на Силицевата долина, е като да имаш кариера на политик в сянка", започва Соня Джоузеф.
"Когато бях там попаднах в средата на елитни кръгове в сферата на AI-технологиите. Виждала съм някои тревожни неща около социалните кръгове на едни от първите служители в OpenAI, техните приятели и колеги-предприемачи, за които досега съм мълчала. Не е мое право да говоря защо Ян Лейке и екипът на супергрупата подадоха оставки. Нямам представа защо и не мога да направя никакви претенции. Вярвам обаче, че моите културни наблюдения върху средата са доста показателни за случващото се в нея.
Секс партита и тежка употреба на LSD от някои елитни изследователи на AI са практика, която създава негативни последствия за жените в сферата и за безопасността около AGI като цяло. Те са емблематични за по-широки проблеми: климат на принуда, който нормализира безразсъдството и преминаването на граници. Няма нищо лошо в секс партитата и тежката употреба на LSD на теория, но съчетано със сянката на групи от интереси със 100 милиарда долара в банковата сметка това води да една наистина повредена социална динамика. Представете си банкерите от Уолстрийт от 2008 г. на LSD - ситуацията не вещае нищо добро за безопасността на AI. Жените са като канарчетата в мината. Те често са първите, които разбират, че нещо се е объркало ужасно, и усещат културния въглероден окис във въздуха. И когато повдигна проблема усещам моментално затваряне и групово мислене.Вероятно тези проблеми всъщност не са на OpenAI, а са симптом на много по-дълбоко гниене в Долината. Иска ми се да мога да кажа повече, но вероятно не трябва. Не пиша това от името на никой и не искам да генерализирам. Има толкова много брилянтни, мили, невероятни хора в OpenAI и има толкова много брилянтни, мили и невероятни хора в Anthropic/EA/Google. Аз съм агностик. Моята единствена лоялност е уважението и достойнството на човешкия живот", пише Соня Джоузеф.
"Не съм под NDA. Никога не съм работила за OpenAI", допълва Джоузеф. "Просто наблюдавах заформилата се култура около изследователите на AI в Сан-Франциско, чувах вътрешна информация, знаех за задкулисни сделки и се запознах с доста "изгорели".
Трудно е да се направят изводи от изказванията на Джоузеф, защото те не са конкретни. Те обаче звучат логично на фона на корпоративната култура в IT сектора, където "изкарването на продукт по-бързо от конкуренцията" е водещ принцип. Все повече бивши служители от сферата на изкуственият интелект "бият камбаната", че безопасността и последствията от технологията за обществото стоят на заден план. Междувременно всички лидери в сегмента са се прицелили в разработването на AGI - изкуствен интелект с равни или по-големи умствени способности от нашите собствени, пише dir.bg.
Последвайте канала на
Свързани новини
Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект
13 май 202414:59
Сам Алтман: Ядреният синтез може да бъде решение на проблема с „апетита“ на изкуствения интелект
27 март 202417:16
Илон Мъск съди Сам Алтман и OpenAI
01 март 202412:15
Сам Алтман: Очакваният нов модел ChatGPT ще бъде по-умен
13 февруари 202412:07
Сам Алтман: Скоро очаквайте изкуствен интелект със способностите на човек
18 януари 202414:06
Изгониха Сам Алтман от OpenAI
18 ноември 202314:22
Дуров се обяви за баща на 100 деца – Илон Мъск: "Аматьорско ниво"
30 юли 202415:52
Кой ще е новият господар на Земята след човека? Отговаря изкуственият интелект Chat GPT
22 май 202412:56
Ливърпул разпердушини Тотнъм със суперфутбол и дръпна на върха в Премиър лийг преди Коледа
Реал Мадрид изпрати триумфалната година с много красиви попадения и задмина Барселона
Борнемут прекърши Ман Юнайтед на "Олд Трафорд", "червените дяволи" с пореден исторически провал
Ювентус най-после спря серията от равенства и се поздрави с юбилеен успех
ЦСКА - София увеличи драстично капитала, за да реши сериозен проблем - собствениците наливат нови 20 млн. лева в клуба
Победната серия на Челси приключи на негостоприемния "Гудисън Парк"
Коментари 3
Добави2024.05.25 | 05:51
Добави коментар
Водещи новини
Делян Пеевски, председател на ДПС: Имаме историческия шанс да променим България! Най-хубавото предстои!
22 декември 202419:04
Кирил Петков: Довиждане, г-н Пеевски!
22 декември 202420:45
Евтим Милошев: Надявам се да има редовен кабинет, за да мога да карам ски
22 декември 202420:13
Проф. Кантарджиев с препоръка: Избягвайте кихащите и кашлящи "герои"
22 декември 202417:14
Андрей Райчев: Шансовете за правителство са 50 на 50, дори 60 на 40
22 декември 202418:23
Юлияна Дончева: Политиката е мястото, където трябва да прекрачиш принципите си. Краят бе разочарование
22 декември 202419:56
Дерайлира пътнически влак за Габрово
22 декември 202420:58
За пореден ден. Няма следа от изчезналото дете със Синдром на Даун от с. Конаре
22 декември 202420:28
Хиляди се събраха в Белград на протест срещу Александър Вучич
22 декември 202421:14
2024.05.21 | 11:30
2024.05.21 | 11:56