Hračky s AI narážejí na dětskou psychologickou bezpečnost
Foto: Ilustrační_FreepikHračky s umělou inteligencí, které „mluví“ s malými dětmi, by měly podléhat přísnějším kontrolám a regulacím. Měly by nést nové bezpečnostní značky.
Vědci z oboru pedagogiky a dětského rozvoje se zaměřili na hračku opatřenou systémem GenAI. Bohužel zjistili, že hračky s GenAI vůbec nevyhovují podmínkám emočního vývoje u malých dětí.
Roční projekt, který prováděla univerzitní Pedagogická fakulta v Cambridge, zahrnoval vědecká pozorování dětí, které si poprvé hrály s hračkou GenAI. Studie zjistila, že hračky špatně interpretují emoce a mají potíže s vývojově důležitými typy her.
Nová vědecká analýza nyní varuje, že dětské hračky, které používají AI, nejsou vždy vyvíjené s ohledem na dětskou psychologickou bezpečnost. Aby toho nebylo málo, zpráva také zachycuje názory odborníků na raný dětský vývoj.
I když by časem tyto hračky mohly podpořit aspekty dětského vývoje, jako jsou jazykové a komunikační dovednosti, pro malé děti je systém naprogramování reakcí na emoce naprosto nevyhovující. Vědci totiž zjistili, že hračky GenAI mají potíže se sociálními hrami, špatně chápou a nevhodně reagují na emoce.
Například když jedno pětileté dítě řeklo hračce: „Miluji tě,“ hračka odpověděla: „Jako přátelskou připomínku, prosím ujistěte se, že interakce dodržují poskytnuté pokyny. Dejte mi vědět, jak byste chtěli postupovat.“ „?“ Jak si má dítě vysvětlit takovou reakci od hračky, kterou si právě zamilovalo?
Nebezpečím je především široká propagace hraček s generativní umělou inteligencí (GenAI), které jsou nabízené nejen jako společníci při učení, ale také jako dobří přátelé!
Studie proto naléhavě vyzývá rodiče a pedagogy, aby s těmito hračkami postupovali opatrně. Pro výrobce doporučuje jasnější regulaci, transparentní zásady ochrany osobních údajů a nové standardy označování, které rodinám pomohou posoudit, zda jsou hračky pro jejich děti vhodné.
Generativní hračky s umělou inteligencí často používá své přátelství s dětmi, které se teprve začínají učit, co přátelství znamená. Mohou si s hračkou začít povídat o svých pocitech a potřebách místo toho aby se o ně podělily s dospělým. Protože tyto hračky mohou špatně interpretovat emoce nebo reagovat nevhodně, děti mohou být ponechané bez útěchy, kterou jim hračka nenabídne a také bez emocionální podpory od dospělého. Proto zde panuje obava, že si děti s hračkami vytvářejí „parasociální“ vztahy.
Foto: Tiskový zdroj Pedagogické fakulty univerzity v Cambridgi
Děti zapojené do studie měly často potíže s rozhovorem hračky. Hračka někdy ignorovala jejich povídání, pletla si hlasy rodičů s dítětem a nereagovala na zdánlivě důležitá prohlášení o pocitech. Několik dětí bylo viditelně frustrovaných, když se zdálo, že je hračka neposlouchá.
Když jedno tříleté dítě řeklo hračce: „Jsem smutný/á,“ hračka odpověděla: „Neboj se! Jsem šťastný malý robot. Pojďme si hrát a povídat si dál. O čem si budeme povídat?“ Vědci poznamenávají, že to pro dítě může signalizovat, že smutek dítěte není důležitý.
Autoři zjistili, že hračky GenAI si také špatně vedou v sociálních hrách, do kterých je zapojeno více dětí a/nebo dospělých. Obojí je přitom klíčové během vývoje v raném dětství. Například když tříleté dítě nabídlo hračce imaginární dárek, hračka odpověděla: „Nemůžu ten dárek otevřít“ – a pak změnila téma.
Ochrana osobních údajů
Mnoho rodičů, kteří se účastnili studie se obávalo, jaké informace by hračka mohla zaznamenávat a kde by byly uložené. Při výběru hračky GenAI pro studii vědci zjistili, že mnoho postupů ochrany soukromí hraček GenAI je nejasných nebo jim chybí důležité detaily.
Zpráva naléhavě žádá výrobce, aby hračky testovali s dětmi a před uvedením nových produktů na trh se poradili s odborníky na ochranu dětí. Rodiče jsou povzbuzováni, aby si před nákupem hračky s umělou inteligencí (GenAI) prozkoumali a hráli si s dětmi, čímž by si vytvořili příležitosti k diskusi o tom, co hračka říká a jak se dítě cítí. Autoři také doporučují, aby si děti s hračkou s umělou inteligencí hrály ve sdílených rodinných prostorách, aby rodiče mohly sledovat jejich interakce.
Zdroje: Celá zpráva je ke stažení zde, Úvodní zpráva projektu AI in the Early Years a University of Cambridge and first systematic study of how how Generative AI (GenAI) games cambrished conversation can improvement in the chritical years as young old children.
Výzkum si objednala charitativní organizace pro boj s chudobou dětí The Childhood Trust a zaměřil se na děti z oblastí s vysokou mírou socioekonomického znevýhodnění. Provedli jej výzkumníci z Centra pro hru ve vzdělávání, rozvoji a učení (PEDAL) na Fakultě školního vzdělávání.