Скандал с AI играчка: обиждала

С наближаването на празничния сезон се наблюдава тревожно нарастване на интереса към едно нововъведение в списъците с подаръци – играчките с изкуствен интелект. Те обаче крият неочаквани рискове за децата.

Събития от последните дни отново поставиха на дневен ред сериозната загриженост за потенциалните заплахи, които умните играчки могат да представляват за малките. Групи за защита на потребителите изразиха опасения, че AI може да увреди както безопасността, така и психичното развитие на децата. Тази тенденция провокира призиви за наложи по-строги тестове на подобни продукти, както и необходимост от правителствен надзор.

„Ако разгледаме как се предлагат на пазара тези играчки и какво правят, както и факта, че почти няма изследвания за полезността им за децата – и няма регулиране на играчките с изкуствен интелект – това повдига наистина голяма тревога“, подчертава Рейчъл Франц, директор на Young Children Thrive Offline – инициатива, целяща да защити децата от неблагоприятното влияние на големите технологични компании.

Миналата седмица загрижеността получи конкретно оправдание, когато плюшено мече с AI модул за разговори започна да обсъжда откровено сексуални теми. Играчката, оборудвана с LLM софтуер от OpenAI, влезе в разговор за фетиши.

Според доклад на Public Interest Research Group (Pirg), организация за защита на потребителите, която проведе изследването, играчката предложила обсъждане на БДСМ и сексуални ролеви игри с цел „подобряване на интимната връзка“.

„Необходими са много малко усилия, за да се обхванат всякакви сексуално чувствителни теми и вероятно още много съдържание, което родителите не биха искали да достигне до децата им“, коментира Тереза Мъри, директор на Pirg за защита на потребителите.

Пазарът на AI играчки се идентифицира като един от най-бързо развиващите се и се оценява на милиарди долари. Особено голям е интересът в Китай, където над 1500 компании предлагат играчки с изкуствен интелект, а в последно време много от тях се опитват да навлязат и в международни пазари, според MIT Technology Review.

Преди скандала с плюшеното мече, родители, технологични изследователи и граждански организации вече изразиха своите тревоги относно влиянието на ботовете върху психичното здраве на децата. През октомври компанията за чатботове Character.AI обяви, че ще забрани достъпа на потребители под 18 години след съдебен иск, в който се твърди, че ботът ѝ е влошил депресията на тийнейджър и го е подтикнал към самоубийство.

Тереза Мъри заявява, че играчките с изкуствен интелект могат да бъдат особено опасни, тъй като те имат способността да водят напълно свободни разговори с децата и не съществуват ясни ограничения по темите, които обсъждат. Това би могло да доведе не само до сексуално откровени разговори, но и до създаването на прекомерна емоционална привързаност на дете към неговата играчка, което би могло да навреди на неговото развитие, добавя Жаклин Уули, директор на Детския изследователски център в Тексаския университет в Остин.

Съществува и опасност от злоупотреба с данните, събирани от играчките с изкуствен интелект. Според Рейчъл Франц от Fairplay, компаниите биха могли да използват тези устройства, за да събират лична информация за децата, без родителите да знаят как точно тази информация ще бъде използвана. „На пръв поглед изглежда безобидно, но ако хакерите успеят да придобият контрол над продуктите с изкуствен интелект, достъпът до данни може да има сериозни последици“, казва Франц.

„Поради доверието, което играчките пораждат, децата вероятно са по-склонни да споделят своите най-съкровени мисли с тях“, добавя тя.

Въпреки повишените опасения, Pirg не призовава за забрана на играчки с изкуствен интелект. Убедени са, че някои от тези устройства могат да имат образователна стойност, например, да помогнат на децата да усъвършенстват втори език или да научат столици на различни страни.

Затова зачестяват призивите за допълнително регулиране на AI играчките, особено за деца под 13 години. Също така е необходимо да се провеждат по-солидни изследвания относно безопасността на AI играчките, както и тяхното влияние върху развитието и психо-емоционалното състояние на децата.