Нейросети и доверие: где заканчивается помощь и начинается угроза

Искусственный интеллект — это быстроразвивающийся и очевидно мощный инструмент. Он умеет распознавать лица, находить мошенников в огромных массивах транзакций, генерировать тексты и изображения — и этим упрощает нашу жизнь. Но в тех сферах, где на кону стоит подлинность личности, правовая ответственность и формирование навыков новых поколений, бездумное применение ИИ чревато проблемами. 

Подделка фото на паспорт: «красиво» не значит «достоверно». Но совсем другое — когда дело доходит до фальсификации документов.

Снимки, созданные или чрезмерно отредактированные с помощью нейросетей, отделение МВД может не принять — их не будут считать доказательством реальной внешности заявителя. Уже сейчас министерство фиксирует случаи использования «улучшенных» фото и предупреждает, что такие изображения могут стать основанием для отказа в выдаче документа.

Однако это еще относительно безобидный вариант использования генеративных систем. Современные нейросети способны воспроизвести почерк конкретного человека с высокой степенью сходства. Это позволяет с легкостью фальсифицировать подписи на документах и бланках отчетности. Такая подделка подписи с помощью ИИ-технологий — это не безобидная попытка упростить себе рабочие процессы, а реальная угроза.

Кроме прямой фальсификации, есть и вторичный эффект: массовое использование инструментов, копирующих почерк. Применение искусственного интеллекта в этих целях на первый взгляд кажется удобной опцией. Однако есть и обратная сторона: это способствует снижению мотивации к самостоятельной рукописной работе, особенно у школьников и студентов. А ведь для многих людей запись от руки — не только способ фиксации информации, но и метод лучшего запоминания и понимания материала. Если образование начнет полагаться на автогенерацию заметок, мы рискуем потерять важные когнитивные навыки.

Искусственный интеллект уже перестал относиться к разделу хобби небольшого числа продвинутых энтузиастов. Он стал занимать важное место в повседневных сервисах, инфраструктуре и жизни практически каждого гражданина. Однако доверять ИИ без оговорок было бы неверно. Там, где от результата зависит юридическая сила документа, финансовая безопасность или формирование личности, — решение должно оставаться за человеком и за системой, которая отвечает за проверку подлинности.

Нейросети дают нам много преимуществ, но лучший результат достигается, когда мы используем их в меру. Только такой взвешенный подход позволит и сохранить темпы технологического прогресса, и обеспечить общественную безопасность.

Парламентская газета