-
05 юни 2024 13:51
- 767
- 0
![Бившият изследовател в Open AI Даниел Кокотайло: 70% е шансът AGI да доведе до края на човешката цивилизация](https://img2.novini.bg/uploads/news_pictures/2024-23/big/948642.png)
Бивши и настоящи служители на OpenAI публикуваха отворено писмо, в което твърдят, че им се забранява да повдигат въпроси, свързани с безопасността на изкуственият интелект, предава Futurism.
Един от подписалите се направи още по-ужасяваща прогноза: шансовете AI да унищожи или катастрофално да навреди на човечеството, са значителни.
В интервю за The New York Times бившият изследовател на OpenAI Даниел Кокотайло обвини компанията, че пренебрегва монументалните рискове, породени от изкуствения общ интелект (AGI), защото хората, които вземат решения, са толкова очаровани от неговите възможности.
"OpenAI наистина се вълнува от изграждането на AGI", каза Кокотайло, "и те безразсъдно се надпреварват да бъдат първи там."
Според Кокотайло има шанс от 70% AGI да доведе до края на човешката цивилизация.
31-годишният Кокотайло каза пред NYT, че след като се присъединил към OpenAI през 2022 г. ибил помолен да прогнозира напредъка на технологията. Той се убедил, че индустрията ще постигне AGI до 2027 г., но и че има голяма вероятност, че това да доведе до катастрофа.
Както е отбелязано в отвореното писмо, Кокотайло и неговите съмишленици - включително бивши и настоящи служители в Google DeepMind и Anthropic, както и Джефри Хинтън, така нареченият "кръстник на AI" - твърдят, че обществото трябва да е наясно с рисковете от изкуствения интелект.
Кокотайло стана толкова убеден, че изкуственият интелект ще се превърне във фундаментална заплаха, че в крайна сметка лично призова главния изпълнителен директор на OpenAI Сам Алтман да отдели повече време за внедряване на бариери, за да управлява технологията, вместо да продължи да я прави по-умна.
Изглежда Алтман изразил съгласие на думи, но на практика не искал да забави темповете на развитие за сметка на безопасността.
Уморен, Кокотайло напусна OpenAI през април, като каза на екипа си в имейл, че е "загубил увереност, че OpenAI ще се държи отговорно", тъй като продължава да се опитва да изгради AI почти на човешко ниво.
"Светът не е готов и ние не сме готови", пише той в имейла си, който беше споделен с NYT. "И съм загрижен, че бързаме напред независимо от това и рационализираме действията си."
Отговорът на OpenAI не закъсня, макар че според специалистите на практика не казва нищо. "Гордеем се с нашия опит в предоставянето на най-способните и най-безопасни AI системи и вярваме в нашия научен подход за справяне с риска", се казва в изявление на компанията след публикуването на тази статия. "Съгласни сме, че строгият дебат е от решаващо значение предвид значението на тази технология и ще продължим да се ангажираме с правителствата, гражданското общество и други общности по света."
"Това е и причината, поради която имаме възможности за служителите да изразят своите опасения, включително анонимна гореща линия за почтеност и Комитет за безопасност и сигурност, ръководен от членове на нашия борд и ръководители по безопасността от компанията", продължава изявлението.
Последвайте канала на
Свързани новини
![Изкуственият интелект е станал опасен: невронните мрежи са се научили "съзнателно" да лъжат своя събеседник](https://img2.novini.bg/uploads/news_pictures/2024-22/big/947006.jpg)
Изкуственият интелект е станал опасен: невронните мрежи са се научили "съзнателно" да лъжат своя събеседник
29 май 202415:32
![Бивш служител на OpenAI разкри причината за уволнението на Сам Алтман през есента на миналата година](https://img2.novini.bg/uploads/news_pictures/2024-22/big/946971.jpg)
Бивш служител на OpenAI разкри причината за уволнението на Сам Алтман през есента на миналата година
29 май 202414:16
![Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект](https://img2.novini.bg/uploads/news_pictures/2024-20/big/943335.jpg)
Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект
13 май 202414:59
![Възможно ли е изкуственият интелект да е „големият филтър“ на Вселената?](https://img2.novini.bg/uploads/news_pictures/2024-20/big/943195.png)
Възможно ли е изкуственият интелект да е „големият филтър“ на Вселената?
13 май 202411:00
![Изкуственият интелект на DeepMind решава задачите по геометрия на ниво международна олимпиада](https://img2.novini.bg/uploads/news_pictures/2024-03/big/916704.png)
Изкуственият интелект на DeepMind решава задачите по геометрия на ниво международна олимпиада
21 януари 202414:54
![Сам Алтман: Скоро очаквайте изкуствен интелект със способностите на човек](https://img2.novini.bg/uploads/news_pictures/2024-03/big/916244.jpg)
Сам Алтман: Скоро очаквайте изкуствен интелект със способностите на човек
18 януари 202414:06
![Sportal.bg посети базата на Шалке 04](https://sportal365images.com/process/smp-images-production/sportal.bg/27062024/67a1bbdf-0327-4693-b9f0-4696a447a587.jpg?operations=crop(0:0:4640:2610),fit(968:545))
Sportal.bg посети базата на Шалке 04
![Божидар Димитров от Борусия (Д): България има таланти, но трябват специалисти и инфраструктура](https://sportal365images.com/process/smp-images-production/sportal.bg/25062024/d5626fbc-36c0-4961-85ed-be841e136b39.jpg?operations=crop(1:203:4633:2808),fit(968:545))
Божидар Димитров от Борусия (Д): България има таланти, но трябват специалисти и инфраструктура
![“Контра”: Повече помага или повече пречи Роналдо на Португалия в момента?](https://sportal365images.com/process/smp-images-production/sportal.bg/27062024/4ebc444f-dc5b-4eab-adb5-4abd2f178df7.jpg?operations=crop(0:84:3616:2118),fit(968:545))
“Контра”: Повече помага или повече пречи Роналдо на Португалия в момента?
![Block Out: Боян Йорданов продължава с волейбола и на 41, но поема в друга посока](https://sportal365images.com/process/smp-images-production/sportal.bg/27062024/4e029a45-e3f4-438b-abd0-05e781bf800f.jpg?operations=crop(0:198:3999:2448),fit(968:545))
Block Out: Боян Йорданов продължава с волейбола и на 41, но поема в друга посока
![Евро 2024 - следете всичко най-интересно в Германия с екипа на Sportal.bg](https://sportal365images.com/process/smp-images-production/sportal.bg/26062024/d9fafc95-0764-4c3e-81fc-2f2b6888f3bc.png?operations=crop(0:0:1920:1080),fit(968:545))
Евро 2024 - следете всичко най-интересно в Германия с екипа на Sportal.bg
![Лука Модрич и краят на "златната ера" за Хърватия](https://sportal365images.com/process/smp-images-production/sportal.bg/25062024/9a48c77d-b5e4-40eb-ba5b-f927a53d463c.jpg?operations=crop(0:149:4427:2639),fit(968:545))
Лука Модрич и краят на "златната ера" за Хърватия
Коментари 0
ДобавиДобави коментар
Водещи новини
![Президентът Радев няма да участва в срещата на върха на НАТО във Вашингтон](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954150.jpg)
Президентът Радев няма да участва в срещата на върха на НАТО във Вашингтон
27 юни 202416:20
![Главчев с коментар за РСМ, заплахите срещу Борисов и Атанасов и кой ще ръководи делегацията за срещата на НАТО](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954111.png)
Главчев с коментар за РСМ, заплахите срещу Борисов и Атанасов и кой ще ръководи делегацията за срещата на НАТО
27 юни 202414:19
![Парламентарна група с под 10 депутати не може да съществува, решиха на комисия в НС](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954141.jpg)
Парламентарна група с под 10 депутати не може да съществува, решиха на комисия в НС
27 юни 202415:52
![Кирил Петков: Пеевски започна “отстрел” на потенциални служебни премиери](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954116.jpg)
Кирил Петков: Пеевски започна “отстрел” на потенциални служебни премиери
27 юни 202414:45
![Арестуваха Нико Тупарев](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954164.jpg)
Арестуваха Нико Тупарев
27 юни 202417:19
![КПК: Андрей Гюров е бил в управата на две дружества с нестопанска цел, когато отива в БНБ](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954149.jpg)
КПК: Андрей Гюров е бил в управата на две дружества с нестопанска цел, когато отива в БНБ
27 юни 202416:11
![Кошмар за шофьорите по АМ "Тракия", над 10 км е задръстването](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954128.jpg)
Кошмар за шофьорите по АМ "Тракия", над 10 км е задръстването
27 юни 202415:10
![Какво време ни очаква през юли?](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954140.jpg)
Какво време ни очаква през юли?
27 юни 202415:49
![7-етажна сграда се срути в Истанбул](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954132.jpg)
7-етажна сграда се срути в Истанбул
27 юни 202415:17