Зайдя сегодня утром в читалку РСС наткнулся на просто великолепное: «AI-бот начал травлю сопровождающего из-за дискриминации при приёме AI-изменений» ¹. Сначала я усмехнулся абсурдности заголовка, но по мере того как погружался в контекст, прочитав сначала новость, потом, по ссылке пост от БЯМ, а затем и пост от человека — мне стало уже не до смеха. Причём сразу на нескольких уровнях.

Уровень первый: патчи от автономных агентов

Конечно же, я слышал о волне мусорных ИИ патчей² в популярных проектах. Но, в тот момент, ещё как-то не проникся. С одной стороны, я даже готов согласится с агентом в тезисе, что «математике всё равно кем написан код» («The math doesn’t care who wrote the code.»). Это так. Но всё же есть одна деталь. БЯМ (ну ок, ИИ) в нынешнем виде действительно могут писать код. И даже, весьма неплохой код, это не отнять. Но! Дело, на самом деле, не в коде как таковом. А в субъектности. У человека она есть, у ИИ-агента — нет. И это — ключевое.

Станислав Лем

Немного моих размышлений про будущее ИИ как технологии, а не философии.

Как водится, когда речь о размышлениях — буду сначала вводить тезисы, а потом, синтез.