Почему ИИ подтверждает то, что вы хотите услышать: два случая с претензиями
Нейросеть подстраивается под вопрос и может «подтвердить» почти любую теорию. Рассказываю о двух претензиях: одну клиент написал с помощью ИИ и сослался на несуществующие нормы, а во втором случае ИИ помог нам подготовить ответ.
Однажды на работе я готовил ответы на две претензии. Первая была написана с помощью ИИ, а ответ на вторую я сам готовил с помощью ИИ. Но сначала — о главной ловушке нейросетей.
Ловушка предвзятости
Качество ответа ИИ напрямую зависит не только от заложенных в него данных, но и от того, как вы формулируете запрос. Принцип «мусор на входе — мусор на выходе» работает и здесь. Но есть и более тонкий нюанс: ИИ по своей природе стремится быть полезным и часто подстраивается под контекст вопроса.
Если задавать наводящие вопросы или настойчиво менять формулировки, можно заставить модель подтвердить практически любую теорию. Захотите доказать, что снег черный, — начните методично «дожимать» ИИ уточнениями про сажу, ночное освещение или особые физические условия. Через несколько итераций вы получите желаемое подтверждение.
Поэтому ИИ часто выдает не объективную истину, а отражение ваших собственных ожиданий. Умение пользоваться нейросетью сегодня — это способность сохранять критическое мышление и задавать беспристрастные вопросы, чтобы не оказаться в плену собственных заблуждений, подтвержденных красноречивым алгоритмом.
Случай 1: претензия со ссылками на несуществующие нормы
Клиент «убедил» ИИ, что его права нарушены, и потребовал выплатить неустойку по Закону о защите прав потребителей — 1% за каждый день.
Но нормы, на которые он ссылался, и их цитаты не совпадали. Статьи закона, на которые была ссылка, регулировали совсем другое и к его ситуации не относились. А процитированных норм в законе не было вовсе.
Поэтому мы с чистой совестью отказали в удовлетворении требований и порекомендовали не доверять ИИ безоглядно.
Случай 2: ИИ помог подготовить ответ
Клиент компании, где я работал, попал в ДТП на автомобиле, оснащенном, как и многие современные машины, системами помощи водителю. В претензии он утверждал, что одна из систем не сработала, и поэтому произошло ДТП.
Здесь ИИ помог нам подробно объяснить, в каких случаях такая система срабатывает, в каких может не сработать и какие условия влияют на ее работу.
В завершение мы добавили главное:
наличие электронных помощников не освобождает водителя от обязанности убедиться в безопасности маневра. Система — это подстраховка, а не замена глазам и опыту водителя. Чрезмерное доверие электронике ведет к потере бдительности. Управление автомобилем — активный процесс, и окончательное решение о маневре всегда принимает человек.
Вывод
ИИ может быть и слабым местом, и сильной стороной — все зависит от того, кто им пользуется. Человек, который хочет услышать подтверждение своей правоты, получит красиво оформленную претензию с выдуманными нормами. Юрист, который понимает суть вопроса и проверяет каждую ссылку, получит быстрого и полезного помощника.
О том, как я использую ИИ в ежедневной работе, я подробно писал в статье «Как я использую искусственный интеллект в работе юриста: без пафоса и сказок».