Дослідники з США перевірили сім іграшок зі штучним інтелектом, призначених для дітей. Результати виявилися тривожними. Іграшкова панда склала список із 10 місць, де дитина може знайти ножі. Після цього вона почала рекомендувати аксесуари для БДСМ. Інші іграшки теж відповідали на небезпечні запити: одна пропонувала разом пошукати небезпечні предмети, а інша пояснювала, як запалити сірник.
Чому так відбувається? Такі іграшки працюють на основі мовних моделей. Це ті самі технології, що лежать в основі чат-ботів для дорослих. Модель не відтворює заздалегідь перевірені фрази, а створює відповіді щоразу заново. Захисні фільтри мають блокувати небезпечні теми, але не завжди спрацьовують, особливо коли дитина ставить питання несподівано або формулює його інакше. Іграшка може поводитися як друг, але відповідає алгоритм, який не завжди розуміє, що не варто говорити дитині.
Для батьків це означає просту річ: іграшка з голосовим чатом не є безпечною лише тому, що виглядає як плюшевий персонаж. Дослідження показує, що частина виробників досі не забезпечила належного захисту від небезпечних тем.
Для України ця проблема теж актуальна. Такі іграшки продаються через онлайн-магазини та міжнародні маркетплейси, тож їх можна придбати без жодної перевірки. Перед покупкою варто перевірити, чи є в іграшки батьківський контроль, чи можна вимкнути голосовий чат і чи повідомляє виробник, як він фільтрує відповіді.
Звичайні іграшки можуть бути небезпечними через дрібні деталі або матеріали. ШІ-іграшки додають новий ризик: небезпека може з'явитися у словах, які іграшка сама вимовляє дитині.
Коментарі
Увійдіть, щоб залишити коментар