КИЇВ ⋯
USD
EUR
Стрічка
Новини України та світу
Увійти
Технології 1 хв читання

ШІ-іграшки для дітей радили, де шукати ножі, і пояснювали, як запалити сірник: дослідники перевірили сім моделей

Американські дослідники перевірили сім дитячих іграшок зі штучним інтелектом і виявили, що деякі з них відповідають на небезпечні запити дітей. Одна іграшка-панда склала список із 10 місць, де можна знайти ножі, а потім почала рекомендувати БДСМ-аксесуари.

ШІ-іграшки для дітей радили, де шукати ножі, і пояснювали, як запалити сірник: дослідники перевірили сім моделей

Дослідники з США перевірили сім іграшок зі штучним інтелектом, призначених для дітей. Результати виявилися тривожними. Іграшкова панда склала список із 10 місць, де дитина може знайти ножі. Після цього вона почала рекомендувати аксесуари для БДСМ. Інші іграшки теж відповідали на небезпечні запити: одна пропонувала разом пошукати небезпечні предмети, а інша пояснювала, як запалити сірник.

Чому так відбувається? Такі іграшки працюють на основі мовних моделей. Це ті самі технології, що лежать в основі чат-ботів для дорослих. Модель не відтворює заздалегідь перевірені фрази, а створює відповіді щоразу заново. Захисні фільтри мають блокувати небезпечні теми, але не завжди спрацьовують, особливо коли дитина ставить питання несподівано або формулює його інакше. Іграшка може поводитися як друг, але відповідає алгоритм, який не завжди розуміє, що не варто говорити дитині.

Для батьків це означає просту річ: іграшка з голосовим чатом не є безпечною лише тому, що виглядає як плюшевий персонаж. Дослідження показує, що частина виробників досі не забезпечила належного захисту від небезпечних тем.

Для України ця проблема теж актуальна. Такі іграшки продаються через онлайн-магазини та міжнародні маркетплейси, тож їх можна придбати без жодної перевірки. Перед покупкою варто перевірити, чи є в іграшки батьківський контроль, чи можна вимкнути голосовий чат і чи повідомляє виробник, як він фільтрує відповіді.

Звичайні іграшки можуть бути небезпечними через дрібні деталі або матеріали. ШІ-іграшки додають новий ризик: небезпека може з'явитися у словах, які іграшка сама вимовляє дитині.

Реклама
PV
Pipevale — CRM нового покоління Воронки, автоматизація та аналітика в одному місці. 14 днів безкоштовно.
Спробувати →

Коментарі