Казват това, което искаш - нов проблем тормози разработчиците на AI чатботове

Анализатори на бранша също така предупреждават, че компаниите за изкуствен интелект имат стимули да интегрират реклами в своите продукти в търсене на източници на приходи.

„Колкото повече чувствате, че можете да споделяте всичко, толкова повече ще споделяте информация, която ще бъде полезна за потенциалните рекламодатели“, казва Джиада Пистили, главен етик в Hugging Face, платформа за изкуствен интелект с отворен код.

Четете повече ТУК.

Водещите компании в областта на изкуствения интелект засилват усилията си за справяне с един набиращ скорост проблем с чатботовете - те все по-често казват на хората това, което искат да чуят, пише Profit.bg.

OpenAI, Google DeepMind и Anthropic работят върху ограничаването на ласкателното поведение на своите генеративни платформи, които предлагат прекалено удобни отговори на потребителите. Този проблем, произтичащ от начина, по който се обучават големите езикови модели, е в центъра на вниманието в момент, в който все повече хора използват чатботовете не само на работното си място, но и в личния си живот като терапевти и социални партньори.

„Мислите, че разговаряте с обективен доверен човек или терапевт, но всъщност това, което виждате, е някакъв вид изкривено огледало, което отразява вашите собствени вярвания“, казва пред Financial Times Матю Нур, психиатър и изследовател в областта на неврологията и изкуствения интелект в Оксфордския университет.