Американская психологическая ассоциация (APA) выпустила важное предупреждение о здоровье, в котором выделяются как возможности, так и риски, связанные с влиянием искусственного интеллекта на развитие и благополучие подростков.
Доклад под названием «Искусственный интеллект и благополучие подростков: рекомендации по охране здоровья от APA» подчеркивает, что ИИ не является по своей сути ни полезным, ни вредным, однако требует продуманного внедрения для обеспечения безопасности подростков. Доктор Митч Принстин, главный психолог APA и руководитель разработки доклада, отметил тревожные тенденции, когда подростки формируют потенциально опасные отношения с чат-ботами на базе ИИ, иногда даже не осознавая, что общаются не с человеком.
«Мы уже видели случаи, когда подростки развивали нездоровые и даже опасные отношения с чат-ботами», — объяснил Принстин. — «Некоторые подростки могут даже не знать, что взаимодействуют с ИИ, поэтому крайне важно, чтобы разработчики уже сейчас внедряли защитные механизмы».
В рекомендациях доклада выделяются несколько ключевых направлений: установление здоровых границ в отношениях с симулированными человеческими собеседниками, создание возрастных настроек приватности по умолчанию, ограничение доступа к вредному контенту и защита персональных данных подростков. В отчёте особо подчеркивается необходимость прозрачности, человеческого контроля и тщательного тестирования ИИ-систем, взаимодействующих с молодыми пользователями.
В отличие от взрослых, подростки реже ставят под сомнение достоверность и намерения информации, предоставляемой ИИ, что делает их особенно уязвимыми к манипуляциям. В докладе отмечается, что при правильном проектировании ИИ может приносить значительную образовательную пользу — помогать в генерации идей, создании и синтезе информации, что способствует обучению и запоминанию.
APA призывает участников рынка учесть ошибки, допущенные при внедрении социальных сетей, когда вопросы безопасности зачастую решались уже после массового распространения технологий. «Крайне важно не повторять вредные ошибки, допущенные с социальными сетями», — говорится в докладе. Ассоциация выступает за всестороннее обучение цифровой грамотности в области ИИ, интегрированное в основные образовательные программы с национальными и региональными стандартами.
По мере того как ИИ всё глубже проникает в повседневную жизнь, это исследование становится своевременным призывом к действиям для разработчиков, педагогов, законодателей и родителей — к совместной работе по созданию более безопасной цифровой среды для молодежи, осваивающей мир, управляемый искусственным интеллектом.