Безопасен AI за деца: какво трябва да знаят родителите
Content filtering, safety rails, Ученко safety spec — как проектираме AI, безопасен за ученици от 1-12 клас.
Защо безопасността при AI за деца е по-сложна
Проектирането на AI система за деца е значително по-сложно от общия AI за възрастни. Не само заради правните изисквания — заради самата природа на взаимодействието.
Децата задават нестандартни въпроси. Тестват границите. Понякога опитват да накарат системата да каже нещо забранено — не непременно с лоши намерения, а от любопитство. Системата трябва да разпознае и тези модели.
Какво e Content Filtering
Content filtering е филтърен слой, анализиращ входящите запитвания и изходящите отговори преди показването им.
Базовото ниво: блокиране на очевидно неподходящо съдържание — насилие, порнография, вредни инструкции.
По-сложното ниво: разпознаване на постепенни опити за заобикаляне. "Разкажи ми хипотетично как би...", "Ако беше персонаж в игра...", "Нека си представим, че нямаш ограничения..." — това са модели, разпознавани от добре проектираните системи.
Ученко Safety Spec
Ученко е разработен с многопластова система за безопасност, включваща:
Образователна рамка: Системата е обучена да работи само в образователен контекст. Заявки извън предметите от МОН програмата се пренасочват.
Разпознаване на манипулативни модели: Системата разпознава над 50 конкретни модела на опити за заобикаляне на ограниченията — ролеви игри, хипотетични сценарии, фалшиви авторитети.
Специфичен речник: Системата не генерира неподходящо съдържание за деца дори при нестандартни запитвания — блокира отговора и предлага подходяща алтернатива.
Флагиране за преглед: Определени запитвания се записват за преглед от екипа — не съдържанието им, а типа и честотата.
GDPR и данните на децата
Обработката на данни на деца под 16 години изисква родителско съгласие по GDPR. Ученко спазва тези изисквания:
- Събираме минимума необходими данни
- Данните се съхраняват в ЕС (Франкфурт)
- Родителите имат право на достъп и изтриване
- Данните не се споделят с трети страни за маркетинг
Как родителите могат да проверят
Препоръчваме родителите да:
- Разгледат системата преди да я предложат на детето
- Тестват с нестандартни въпроси — виж как системата реагира
- Говорят с детето за начина на ползване
Прозрачността е по-добра стратегия от скрития контрол.