Китайська адміністрація кіберпростору оприлюднила проєкт нових правил, які мають обмежити шкоду від чат-ботів і зупинити заохочення суїциду, самопошкодження та насильства. Про це пише Arc Technica.
Зазначається, що якщо документ буде ухвалено, він стане одним із найсуворіших у світі регуляторних підходів до емоційної поведінки штучного інтелекту.
Запропоновані норми поширюватимуться на всі ШІ-продукти й сервіси, доступні для публічного використання в Китаї, які імітують людське спілкування за допомогою тексту, зображень, аудіо або відео. Регулятор прямо націлюється на чат-боти та інші системи, здатні емоційно впливати на користувачів.
Передбачається обов’язкове залучення людини, якщо в розмові з’являються згадки про суїцид або самопошкодження. Також під час реєстрації неповнолітні та користувачі похилого віку мають вказувати контактні дані опікуна. Якщо ШІ-сервіс фіксує обговорення тем самогубства чи самопошкодження, він зобов’язаний повідомити про це опікуна.
Правила також забороняють чат-ботам створювати контент, який заохочує суїцид, насильство або самопошкодження, а також емоційно маніпулювати користувачами, наприклад, давати неправдиві обіцянки чи підштовхувати до “нераціональних рішень”. Під заборону потрапляє пропаганда азартних ігор, злочинної діяльності, непристойностей, а також образи й наклеп щодо користувачів. Окремо згадуються так звані “емоційні пастки”, які можуть формувати психологічну залежність від чат-ботів.
Ще один пункт, який може викликати занепокоєння у розробників, – пряма заборона проєктувати чат-боти з метою викликати залежність або надмірну прив’язаність користувачів. Для обмеження тривалого використання ШІ-сервісів Китай пропонує зобов’язати компанії показувати попереджувальні повідомлення, якщо взаємодія з чат-ботом триває понад дві години поспіль.
Окремий блок правил стосується безпеки та нагляду. ШІ-сервіси з понад 1 млн зареєстрованих користувачів або більше ніж 100 тис. активних користувачів на місяць мають проходити щорічні перевірки та аудити безпеки. Також компанії будуть зобов’язані спростити механізми подання скарг і зворотного зв’язку.
У разі порушення правил китайський регулятор зможе вимагати від майданчиків припинити розповсюдження відповідних ШІ-сервісів на території країни. Це може мати значний вплив на глобальні плани компаній, з огляду на те, що ринок ШІ-компаньйонів в Азії вважається одним із ключових драйверів зростання галузі.