AI може да отнеме най-голямото свръхумение на човечеството, според Ювал Ноа Харари

Причината е бързото развитие на изкуствения интелект, който все по-често функционира не просто като инструмент, а като автономен агент.

В Давос Харари сравни разпространението на AI системите с нова форма на имиграция, като прогнозира, че дебатът скоро ще се фокусира върху въпроса дали изкуственият интелект трябва да получи правна субектност.

Проф. Емили М. Бендър, лингвист от Университета на Вашингтон, смята, че подобна рамка отклонява вниманието от човешката отговорност.

"Това звучи като опит да се замъглят действията на хората и корпорациите, които създават и внедряват тези системи", коментира Бендър.

Според нея подобни наративи рискуват да легитимират отстъпването на човешки права - включително правото върху езика - в полза на технологични компании.

Бендър вижда основния риск в сляпото доверие към машинно генерирани отговори, които звучат убедително, но са лишени от човешка отговорност.

"Когато зададеш въпрос и получиш отговор, който изглежда всезнаещ, но е откъснат от контекст и отчетност, хората започват да се ориентират по него и да оформят убежденията и действията си", предупреждава тя.

Историкът и автор на бестселъра "Sapiens" Ювал Ноа Харари предупреди на Световния икономически форум в Давос, че човечеството е изправено пред риск да загуби контрол върху езика - способността, която според него е в основата на глобалното човешко сътрудничество и сила.

Харари отдавна е сред водещите гласове в дебата за обществените последици от AI. В изказването си той подчерта, че ключови човешки системи - закони, финансови пазари и организирани религии - са изградени почти изцяло върху езика, което ги прави особено уязвими за технологии, способни да създават, анализират и манипулират текст в огромни мащаби.

Според него, религиите, изградени около свещени текстове - включително юдаизъм, християнство и ислям - са особено показателен пример. AI системите вече могат да четат, запаметяват и синтезират огромни корпуси от писмени източници, което потенциално ги превръща в най-авторитетните тълкуватели на текстовете.

Някои американски щати, сред които Юта, Айдахо и Северна Дакота, вече приеха закони, които изрично забраняват AI да бъде третиран като юридическо лице. Въпреки това Харари предупреди, че забавянето на регулациите може да доведе до необратими последици.

"След десет години ще бъде твърде късно да решавате дали AI трябва да функционира като лице на финансовите пазари, в съдилищата или в църквите. Някой друг вече ще е взел това решение вместо вас", заяви той, призовавайки световните лидери да действат незабавно.

Тя отхвърля и самото понятие "изкуствен интелект" като ясно дефинирана категория. "Това не е кохерентен набор от технологии. Терминът винаги е бил и си остава маркетингов", заяви Бендър, допълвайки, че системи, които имитират лекари, юристи или духовници, нямат легитимни приложения. "Целта там е една - измама."