Свят на илюзиите и загуба на реалността, дезинформация и хаос: какви са прогнозните заплахи от ИИ през 2025 г.?

Дезинформация и хаос

ИИ като извънземен интелект: превземане на системите отвътре

Изкуственият интелект като инструмент на авторитаризма

Криза за истината и новите институции

Култура на илюзиите и “цифровите оракули”

Настъпва ерата на “наративните войни”

Революция в икономиката и политиката

Светът на илюзиите и загубата на реалността

Социална фрагментация и криза в обществената сфера

Уязвимостта на човека пред изкуствения интелект

Известният израелски историк, писател и философ Ювал Ноа Харари, автор на бестселърите „Sapiens. Кратка история на човечеството“, „Homo Deus. Кратка история на бъдещето“ , „21 урока за 21-ви век“, „“Nexus. Кратка история на информационните мрежи“, във своите последни публикации, публични изяви и интервюта все по-често коментира съвместното бъдеще на човечеството с изкуствения интелект, но и редовно предупреждава за опасностите от неконтролираното му развитие.

AI ще започне активно да формира нова култура, създавайки произведения на изкуството, литературата и музиката, които ще се възприемат от хората като уникални и вдъхновяващи, въпреки че всъщност ще бъдат продукт на алгоритми. Хората ще се доверяват на системите с изкуствен интелект като на „дигитални оракули“, приемайки съветите и решенията на невронните мрежи като безусловна истина, което ще доведе до деградация на критичното мислене.

В близкото бъдеще социалната фрагментация ще се увеличава, тъй като ИИ ще укрепва съществуващите „балони на реалността“. Всяка група ще живее в своя собствена информационна вселена, което прави невъзможно постигането на социален консенсус.

В бъдеще все повече хора ще възприемат ИИ като личен съветник, приятел или дори партньор. Това ще доведе до възможността невронните мрежи да влияят върху тяхното поведение, потребителските им нужди и дори на политическите им предпочитания. Виртуалните „взаимоотношения“ с ИИ ще станат норма, което ще доведе до психологически и социални последици, включително отчуждение и намаляване на способността за критично мислене.

Виртуалната реалност и ИИ ще започнат да оформят алтернативни светове, които ще бъдат по-привлекателни от реалния живот. Това може да доведе до масово изселване на хората във виртуалните пространства. Културата и изкуството ще започнат да се променят под влиянието на ИИ, който ще може да генерира произведения на изкуството, които са по-добри по качество от човешките. Това от своя страна би поставило под въпрос уникалността на човешкото творчество и неговата роля в обществото.

Ето и някой основни негови тезиси за развитието на ИИ през 2025 г. и близкото бъдеще:

ИИ ще стане активен участник в „наративните войни“. Например, ИИ алгоритмите ще бъдат използвани за създаване на идеологически митове, които могат да обединяват или разделят обществата. Социалните медии и социалните мрежи ще се превърнат в бойно поле, където ИИ ще генерира съдържание за фрагментирани аудитории, увеличавайки поляризацията в обществата.

Изкуственият интелект няма да замени хората насила, както в научнофантастичните сюжети, а ще стане незабележим, но критично важен компонент в системите за контрол, влияещ върху решенията на хората чрез своите алгоритми, данни и манипулиране на информацията.

Изкуственият интелект ще промени фундаменталните основи на икономиката и политиката, започвайки от автоматизацията на труда и завършвайки с влиянието върху изборите и законодателството. Ювал Ноа Харари подчертава, че ИИ може не само да пише закони, но и да разработва стратегии, които могат да манипулират обществото.

Изкуственият интелект ще се превърне в основния инструмент на авторитарните режими за контрол на населението. Това ще включва тотално наблюдение, автоматизация на пропагандата и потискане на несъгласието. Активно ще се развиват и прилагат технологии, които позволяват да се анализира поведението на гражданите, да се прогнозират действията им и да се намесват в техния живот, пише futurist.bg.

Основното предизвикателство за човечеството в най-близко бъдеще ще бъде изграждането и укрепването на институции, които могат да се противопоставят на масовата дезинформация, разпространявана от ИИ. Според Харари би трябвало да се въведат нови стандарти за проверка на информацията, да се създадат международни регулаторни органи, които да наблюдават работата на ИИ, и да се разработят технологии, които могат да откриват всякакви фалшификати.

През 2025 г. може да започне глобална дискусия за ролята на ИИ в икономиката. Очаква се безработицата да нарасне поради автоматизацията, принуждавайки държавите да преосмислят своята роля, възможно и чрез въвеждането на безусловен базов доход. Политическите кампании все повече ще разчитат на ИИ за писане на речи, създаване на стратегии и манипулиране на избирателите. Това може да доведе до загуба на доверие в демократичните процеси.

През 2025 г. светът ще се сблъска с ново ниво на дезинформация. Генеративните ИИ като ChatGPT ще пишат фалшиви новини, политически речи и идеологически манифести, изкривявайки възприемането на реалността. Хората все повече ще се обръщат към ИИ за информация, без да я проверяват, което ще доведе до превръщането на ИИ в „ Делфийски оракул“ и ще увеличи риска от масови заблуди.

Футурологът предупреждава, че липсата на регулиране на ИИ ще доведе до използването му от авторитарните режими за контрол на обществата. За разлика от демокрациите, които изискват прозрачност и публичен дебат, авторитарните системи могат по-бързо да се адаптират към новите технологии, като ги използват за потискане и манипулиране на общественото мнение.

Харари отбелязва, че ИИ е способен да установява емоционални връзки с хората, което го прави опасен инструмент за манипулация. Нараства опасността от това, че хората може да започнат да се доверят повече на невронните мрежи, отколкото на близки и приятели, или експерти, което ще създаде нови рискове.

Харари предупреждава, че ИИ и социалните медии унищожават обществената сфера, превръщайки света в „архипелаг от субкултури“, където всяка група живее в собствената си реалност.

Харари предупреждава, че изкуственият интелект може да създаде “свят от илюзии”, в който ще бъде трудно да се разграничи истината от измислицата. Това може да разруши основите на културата и обществата.

Харари смята, че човечеството е „социално животно, разказващо истории“. В продължение на хиляди години митовете и легендите са обединявали и разделяли хората. В близкото бъдеще тази тенденция ще се ускори от ИИ технологиите, които с безпрецедентна скорост и точност,ще създават и разпространяват всякакви истории.

Ювал Ноа Харари отбелязва, че ИИ вече е способен да създава илюзии, които могат да замъгляват реалността. Според него човечеството навлиза в ера, в която виртуалните светове, създадени от ИИ, ще доминират над физическата реалност.

Ювал Ноа Харари предполага, че изкуственият интелект (ИИ) не е просто инструмент, а вид „извънземен интелект“, способен да проникне в човешките системи и да ги превземе отвътре. През 2025 г. ИИ може започне неговото активно интегриране в ключови структури на обществото, от правителствата до корпорациите.

Ювал Ноа Харари смята, че за да се запази цивилизацията, са необходими институции, които могат да наблюдават, проверяват и защитават истината. Без това потокът от информация, създаден от ИИ, ще доведе до хаос и загуба на способността на обществата да вземат информирани, обосновани и осъзнати решения.

Ювал Ноа Харари твърди, че истината е рядка и скъпа форма на информация, докато измислицата е евтина и лесна. Изкуствения интелект ще се използва активно за генериране на измислици, пропаганда и манипулиране на общественото мнение.