Изкуственият интелект на iPhone халюцинира

16.01.25 г., 15:29 ч.

Копирано

„Халюцинациите” на генеративния изкуствен интелект са добре известен проблем, който все още не е отстранен: AI „синтезира” отговори на потребителски заявки, които са напълно несъвместими с реалността, дори си измисля имена и факти.

Лъжите на AI

Незряла технология

Призив към Apple

Халюцинациите на изкуствения интелект са често срещано явление, с което разработчиците на AI все още не могат да се справят. Този проблем засегна и Apple – сега компанията е под натиск да изключи някои функции с изкуствен интелект в своя флагмански продукт iPhone.

Apple Intelligence, заедно с други AI инструменти, се предлага на iPhone 16, iPhone 15 Pro и Pro Max, работещи с операционна система iOS 18.1, както и на iPad таблети и някои версии на компютрите Mac.

BBC далеч не е единствената новинарска агенция, на която AI приписва фалшиви новини: такива бяха публикувани и от името на Ню Йорк Таймс, а вероятно и от името на други медии.

BBC твърди, че генерираните от изкуствения интелект откъси „не отразяват, а в някои случаи са напълно в противоречие с оригиналното съдържание на BBC”. Apple мълча дълго време и едва по-рано тази седмица обяви, че ще предостави всички генерирани от AI извадки с ясни указания за техния произход.

Журналисти и информационни агенции призовават Apple да оттегли една от AI функциите, присъстващи в новите смартфони на компанията.

Междувременно, Националният съюз на журналистите на Обединеното кралство, "Репортери без граници" и отделни журналисти призовават Apple да деактивира напълно AI, тъй като продуктът очевидно не е готов за практическа употреба.

На свой ред генералният секретар на Националния съюз на журналистите Лора Дейвисън каза: „Във време, когато достъпът до точна новинарска информация е по-важен от всякога, обществеността не трябва да гадае дали новините, които получава, са верни”. Дейвисън смята, че AI продуктът на Apple трябва да бъде напълно спрян.

По-късно AI на Apple неправилно обяви Люк Литлър за победител в PDC World Darts Championship, като това съобщение се появи няколко часа преди началото на самото първенство. Между другото, Литлър в крайна сметка стана световен шампион.

Подобни инциденти се случват и с разработките на Apple. През декември 2024 г. BBC се свърза с компанията, след като изкуственият интелект представи невярна информация от името на журналист от агенцията. По-специално, текстът, генериран от AI, посочва, че Луиджи Манджиони, заподозреният в убийството на главния изпълнителен директор на UnitedHealthcare Брайън Томпсън, се е самоубил, което не е вярно, припомня technews.bg.

Ситуацията говори за незрялостта на изкуствения интелект като цяло. Засега AI се възприема като модерна играчка, която хората се опитват да използват абсолютно навсякъде, без оглед на необходимост или уместност. Но с течение на времето AI се очаква да стане същият инструмент като химикалка или пишеща машина, коментират специалисти.

AI е сложна и противоречива технология, която поражда множество не само технологични, но и етични проблеми. И използването му във всяка чувствителна област винаги ще предизвиква много недоволство сред работещите в нея. Що се отнася до проблема с общественото недоверие към новините, той възниква много преди появата на изкуствения интелект.

Apple твърди, че техният AI е в бета тестване и че „непрекъснато се подобрява” въз основа на отзивите на потребителите. „Насърчаваме потребителите да съобщават за всякакви случаи на неочаквани извадки”, казват от пресслужбата на Apple.

Алън Ръсбриджър, бивш редактор на Гардиън, заяви, че технологията е „извън контрол” и крие сериозни рискове от дезинформация. „Доверието в новините вече е твърде ниско, а големите американски корпорации ги използват и като продукт за тестване”, каза Ръсбриджър. Самият той е член на Надзорния съвет на Meta Corporation.

Освен това, изкуственият интелект на Apple приписа на тенисиста Рафаел Надал твърдение за неговата нетрадиционна сексуална ориентация, което няма нищо общо с реалността.

По-конкретно, функцията на Apple Intelligence за генериране на кратки откъси от новинарски истории, която многократно е хващана да бълва текст, нямащ нищо общо със съдържанието на оригиналната новинарска история.