-
05 юни 2024 13:51
- 776
- 0
Бивши и настоящи служители на OpenAI публикуваха отворено писмо, в което твърдят, че им се забранява да повдигат въпроси, свързани с безопасността на изкуственият интелект, предава Futurism.
Един от подписалите се направи още по-ужасяваща прогноза: шансовете AI да унищожи или катастрофално да навреди на човечеството, са значителни.
В интервю за The New York Times бившият изследовател на OpenAI Даниел Кокотайло обвини компанията, че пренебрегва монументалните рискове, породени от изкуствения общ интелект (AGI), защото хората, които вземат решения, са толкова очаровани от неговите възможности.
"OpenAI наистина се вълнува от изграждането на AGI", каза Кокотайло, "и те безразсъдно се надпреварват да бъдат първи там."
Според Кокотайло има шанс от 70% AGI да доведе до края на човешката цивилизация.
31-годишният Кокотайло каза пред NYT, че след като се присъединил към OpenAI през 2022 г. ибил помолен да прогнозира напредъка на технологията. Той се убедил, че индустрията ще постигне AGI до 2027 г., но и че има голяма вероятност, че това да доведе до катастрофа.
Както е отбелязано в отвореното писмо, Кокотайло и неговите съмишленици - включително бивши и настоящи служители в Google DeepMind и Anthropic, както и Джефри Хинтън, така нареченият "кръстник на AI" - твърдят, че обществото трябва да е наясно с рисковете от изкуствения интелект.
Кокотайло стана толкова убеден, че изкуственият интелект ще се превърне във фундаментална заплаха, че в крайна сметка лично призова главния изпълнителен директор на OpenAI Сам Алтман да отдели повече време за внедряване на бариери, за да управлява технологията, вместо да продължи да я прави по-умна.
Изглежда Алтман изразил съгласие на думи, но на практика не искал да забави темповете на развитие за сметка на безопасността.
Уморен, Кокотайло напусна OpenAI през април, като каза на екипа си в имейл, че е "загубил увереност, че OpenAI ще се държи отговорно", тъй като продължава да се опитва да изгради AI почти на човешко ниво.
"Светът не е готов и ние не сме готови", пише той в имейла си, който беше споделен с NYT. "И съм загрижен, че бързаме напред независимо от това и рационализираме действията си."
Отговорът на OpenAI не закъсня, макар че според специалистите на практика не казва нищо. "Гордеем се с нашия опит в предоставянето на най-способните и най-безопасни AI системи и вярваме в нашия научен подход за справяне с риска", се казва в изявление на компанията след публикуването на тази статия. "Съгласни сме, че строгият дебат е от решаващо значение предвид значението на тази технология и ще продължим да се ангажираме с правителствата, гражданското общество и други общности по света."
"Това е и причината, поради която имаме възможности за служителите да изразят своите опасения, включително анонимна гореща линия за почтеност и Комитет за безопасност и сигурност, ръководен от членове на нашия борд и ръководители по безопасността от компанията", продължава изявлението.
Последвайте канала на
Свързани новини
Изкуственият интелект е станал опасен: невронните мрежи са се научили "съзнателно" да лъжат своя събеседник
29 май 202415:32
Бивш служител на OpenAI разкри причината за уволнението на Сам Алтман през есента на миналата година
29 май 202414:16
Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект
13 май 202414:59
Възможно ли е изкуственият интелект да е „големият филтър“ на Вселената?
13 май 202411:00
Изкуственият интелект на DeepMind решава задачите по геометрия на ниво международна олимпиада
21 януари 202414:54
Сам Алтман: Скоро очаквайте изкуствен интелект със способностите на човек
18 януари 202414:06
Бурна вечер в Дортмунд прати Германия на 1/4-финал
Швейцария подчини Италия и я детронира от Евро 2024
Супер Лаутаро Мартинес продължава да блести за Аржентина в отсъствието на Меси
Левски се позабавлява и прегази Септември (София) на "Герена"
Лудогорец разби третия в Румъния
Евро 2024 - следете всичко най-интересно в Германия с екипа на Sportal.bg.
Коментари 0
ДобавиДобави коментар
Водещи новини
Елтън Джон и редица други звезди изразиха подкрепата си за Лейбъристката партия на предстоящите парламентарни избори във Великобритания
30 юни 202406:13
Ето какво време ни очаква днес
30 юни 202406:06
В този ден в нас се пробуждат скрити сили
30 юни 202405:59
Пеевски: Новото начало за ДПС е факт. Който не го разбира, остава в миналото
29 юни 202416:19
Павела Митова: Росен Желязков е приемлив вариант за премиер
29 юни 202417:54
Емил Димитров-Ревизоро: Евентуалният премиер би бил политическа фигура
29 юни 202418:50
Доц. Огнян Минчев: Има поверие, че който прави правителство с ДПС започва да не му върви живота
29 юни 202416:11
Иван Ченчев: Не само Нинова, цялото ИБ на БСП подава оставка с лидера по устав
29 юни 202418:34
Цветан Цветанов: Евелин Банев-Брендо почти не беше известен в България
29 юни 202417:47