Власти России заложили в проект федерального бюджета на 2022-2024 годы почти более 1,6 миллиарда рублей на создание системы, которая с помощью анализа письменных работ учащихся станет выявлять тех, кто "склонен к социально опасному и деструктивному поведению". Об этом пишет РБК, ссылаясь на пояснительную записку к проекту трёхлетнего бюджета.
Планируется разработать систему по мониторингу информации, которая может склонить или побудить детей "совершить действия, представляющие угрозу их жизни" или жизни и здоровью других людей. Из пояснительной записки следует, что программное обеспечение станет анализировать письменные работы учащихся и выявлять склонности к опасному поведению.
Деньги планируют выделить структуре Росмолодёжи, автономной некоммерческой организации "Центр изучения и сетевого мониторинга молодёжной среды", которую создали в 2018 году по поручению президента России Владимира Путина.
В Пермском университете произошла стрельба, 6 погибших
Ожидается, что в 2022-2024 годах центр будет получать по 555 миллионов рублей. В 2021 году центру уже выделили почти 245 миллионов на создание этого программного обеспечения, но организация пока не получила деньги.
Задача центра — выявлять контент, связанный с суицидальными проявлениями, кибербуллингом, распространением криминальной субкультуры и другими деструктивными тенденциями, согласно официальному сайту АНО. В интервью Forbes глава центра Денис Заварзин оценил число аккаунтов в соцсетях, которые "хотя бы один раз касались" деструктивного контента, в 61 млн, уточнив, что за одним человеком может стоять сразу несколько таких аккаунтов.
Найдён мёртвым глава Следственного комитета по Пермскому краю
Работу системы центра он описывает следующим образом: в базу нейросетевого комплекса попадают разные аккаунты с суицидальным, депрессивным и другим подобным контентом, в автоматическом режиме система наблюдает за активностью таких страниц. Если активность увеличивается, аккаунт попадает в "красную зону", и операторы более детально разбирают профили, анализируют их и передают информацию в профильные службы "для организации профилактической работы" с их владельцами, если речь идет о суицидальной активности, либо в правоохранительные органы, если центр обнаруживает признаки подготовки преступления.
В основе системы по анализу письменных работ может лежать нейросеть, обученная на большом количестве образов текстов, написанных людьми с психическими или социальными отклонениями, предположил в беседе с РБК руководитель Liquid Studio Accenture в России Арсений Кондратьев. Изучив такие тексты, программа сможет распознавать паттерны, анализируя образцы письменных работ. Работы с высоким процентом совпадения паттерна могут маркироваться соответствующим образом, говорит эксперт.