-
19 февруари 2024 11:22
- 468
- 2
В нов доклад експерти от Mozilla Foundation предупреждават, че чатботове-компаньони с изкуствен интелект - включително популярното приложение Replika - крият клопки за поверителността и имат съмнителни политики за използване на личните данни на потребителите си, съобщава Futurism.
"Така наречените "сродни души с изкуствен интелект" карат екипа на Mozilla да изтръпне, когато става въпрос за това колко лична информация събират", се казва в доклада, "особено като се има предвид липсата на прозрачност и потребителски контрол върху това как тези данни са защитени от злоупотреба."
С други думи, ботовете, предназначени да осигурят на уязвими и самотни хора усещане за интимност, ги ползват за трупане на данни за тях. Данни, които могат да се ползват за непрозрачни цели.
"За да бъда напълно откровен, приятелките и гаджетата с изкуствен интелект не са ваши приятели", каза изследователят на Mozilla Миша Риков в свое изявление.
"Въпреки че те се рекламират като нещо, което ще подобри вашето психично здраве и благополучие, те се специализират в това да ви направят зависим, давайки ви повече самота и токсичност, като същевременно извличат възможно най-много данни от вас", добавя той.
Според доклада, изследователите на Mozilla подлагат на тестове 11 придружаващи бота с изкуствен интелект, като в крайна сметка откриват, че "десет от 11-те чатбота не отговарят на минималните стандарти за сигурност на Mozilla, като например изискване на силни пароли или начин за управление на уязвимостите в сигурността".
Лошата защита срещу използване от непълнолетни и зашеметяващото количество тракери и бисквитки са друг проблем.
Тези тракери бяха хванати да изпращат данни на потребители в приложението до набор от екипи на трети страни, включително Facebook, DoubleClick, собственост на Google, и редица маркетингови и рекламни фирми.
Ботовете-компаньони са изрично предназначени да изграждат интимни взаимоотношения със своите потребители. Като се има предвид чувствителността на споделената информация, логично е, че недоброжелатели биха могли ефективно да я експлоатират.
"Едно от най-страшните неща за чатботовете за връзка с AI е потенциалът за манипулиране на техните потребители", каза в изявление Джен Калтридър, директор на проекта *Privacy Not Included на Mozilla.
"Какво ще спре недобросъвестни лица да създават AI чатботове, предназначени да ви бъдат "сродна душа" и след това те да използват тази връзка, за да манипулират хората в извършането на ужасни неща, да приемат плашещи идеологии или да нараняват себе си или другите?"
Всъщност, такъв пример вече има. Чатбот-приятелка подтикна млад мъж да опита да убие вече починалата кралица на Великобритания.
"Ето защо отчаяно се нуждаем от повече прозрачност," добави Калтридър, "и потребителски контрол в тези AI приложения."
Последвайте канала на
Свързани новини
Шефът на Nvidia: Всяка страна трябва да разполага със собствена инфраструктура с изкуствен интелект
12 февруари 202412:06
Дизайнер на личности и инструктор по AI: кои са новите работни места в ерата на генеративния изкуствен интелект?
06 февруари 202417:36
Китай създава първото в света дете с изкуствен интелект
05 февруари 202411:22
Над една трета от фирмите в ЕС са възприели използването на изкуствен интелект през 2023 г.
01 февруари 202410:39
Предприемач посъветва: Изкарвайте курсове за изкуствен интелект, пазарът на труда има нужда от вас
24 януари 202414:02
Зукърбърг залага всичко на всеобщия изкуствен интелект (AGI)
23 януари 202418:32
Тийнейджър се самоуби след като се влюби в чатбот
23 октомври 202422:47
,fit(968:545))
ЦСКА - София се раздели със защитник
,fit(968:545))
Официално: Ман Сити обяви новия договор на Гуардиола
,fit(968:545))
България в група с 4 отбора по пътя към Мондиал 2026, задачата пред "лъвовете" става още по-трудна
,fit(968:545))
Партизан се съживи точно срещу Звезда, Милър-Макинтайър с 9 асистенции
,fit(968:545))
Един от най-тежките моменти на Цунами бил при Мъри Стоилов, капитанът на Левски каза как “сините” ще излязат от кризата
,fit(968:545))
ЦСКА - София тренира без Фаетон и двама от норвежците преди дербито с Лудогорец
Коментари 2
Добави
2024.02.19 | 11:54
Добави коментар
Водещи новини
Божидар Божанов: ГЕРБ не иска да сформира правителство и се крие
21 ноември 202420:42
Боряна Димитрова: Наблюдаваме политически блокаж с три оси - „Възраждане“, Делян Пеевски и връщане към старата конституционна уредба
21 ноември 202418:39
Костадин Костадинов: ГЕРБ е в изолация и наблюдаваме подозрително мълчание
21 ноември 202420:56
Скандалът с бившата фирма на Асен Василев: Съдът излезе с решение
21 ноември 202420:03
Водещите новини! Ученикът Даниел, който усмърти с ритници жена в Перник, се разрева в съда. МНС издаде заповед за арест на Нетаняху (и още…)
21 ноември 202419:28
Путин потвърди, че Украйна е атакувана с балистична ракета
21 ноември 202419:47
САЩ признаха, че са били наясно, че Русия изстрелва балистична ракета със среден обсег
21 ноември 202422:35
Володимир Зеленски определи руския ракетен удар с ново оръжие като видима ескалация на войната
21 ноември 202422:57
САЩ наложиха санкции на "Газпромбанк"
21 ноември 202419:05
2024.05.25 | 05:19