Многоуровневый фильтр: как книги анализируют с помощью ИИ

Издательство «Эксмо» внедрило систему на базе искусственного интеллекта для выявления в книгах упоминаний о наркотиках, экстремизме, иноагентах и другой информации, запрещенной законодательством. Об этом РИА Новости рассказал генеральный директор издательства Евгений Капьев.

истема проводит глубокий анализ текстов — в том числе на иностранных языках. Процесс построен по многоуровневой схеме с участием нескольких типов программных агентов, что позволяет добиться высокой точности и снизить риски пропуска потенциально опасного контента.

На первом этапе текст разбивают на компактные фрагменты, удобные для обработки. Затем эти фрагменты направляют трем агентам первого уровня, каждый из которых специализируется на отдельной категории: секс, наркотики, экстремизм. Параллельно работают и другие агенты — они отслеживают упоминания иноагентов, запрещенных организаций и т. д.

Результаты первичного анализа проходят через агента второго уровня — он отсеивает очевидные ложные срабатывания. Оставшиеся спорные фрагменты передают на третий уровень, где к работе подключаются наиболее продвинутые модели. Они обучены на действующих законах и судебной практике и должны классифицировать возможное нарушение.

При этом окончательное решение остается за человеком. Как подчеркнул Капьев, задача ИИ — отфильтровать заведомо безопасный контент и передать на проверку редактору все, что несет хотя бы минимальный риск.