Все ИИ-модели — это модели вероятностные. Они не ищут точное совпадение согласно запросу, как это делают поисковые системы, а ищут некоторую область близких к запросу значений. В этом и сила ИИ, и его слабость. Сила в том, что такой поиск позволяет ориентироваться и находить ответ в условиях неопределенности, когда мы не очень четко знаем, что мы ищем (здесь поисковик — плохой помощник). Но в этом же и слабость ИИ: когда мы задаем совершенно конкретный вопрос, например, «найди автора цитаты», модель может такого автора просто придумать — по ассоциациям и аналогиям. Давайте поговорим, как минимизировать вред и максимизировать пользу при поиске ответов с помощью ИИ.
5 простых правил поиска информации с помощью ИИ
Когда мы используем ИИ-чат для поиска информации, мы должны помнить о некоторых важных моментах, чтобы такое общение приносило пользу, а не разочарование и ошибки.
В поисках самого себя. https://www.sciencenews.org/
Относиться к ИИ следует, как к продавцу подержанных автомобилей: доверяй, но трижды проверяй.
1. Чтобы минимизировать ошибки, вы сами должны хорошо ориентироваться в предметной области
Это простое правило, и оно же самое трудновыполнимое. Если вы глубоко в теме, ИИ вас приятно удивит. Он наверняка найдет то, чего вы не знаете, поможет прояснить моменты, о которых вы думали, но не было времени разобраться. В таком разговоре компетентных собеседников вы неплохо застрахованы от ИИ-галлюцинаций, то есть если он начнет с уверенным лицом врать, вы его остановите, и попросите уточнений. И он исправится.
Но у любого человека очень мало таких областей знания, где он хорошо знает матчасть, и в основном приходится искать информацию о том, в чем мы разбираемся слабо. И здесь основной принцип: если вы не понимаете, что пишет ИИ, попробуйте у него уточнить, о чем он говорит. Иногда, переформулируя ответы, ИИ находит нужные слова. Можно попросить его привести пример, прокомментировать термин. Можно попросить другой ИИ рассказать тоже самое. Часто бывает полезно заглянуть в Википедию. Но нужно помнить, что такой поиск — это прогулки по тонкому льду. ИИ вас может подставить, и вы даже не заметите. Поэтому надо использовать дополнительные принципы, о которых речь пойдет дальше (это тоже гарантии не даст, но вероятность ошибки может снизить).
Галлюцинации.
2. Обязательно проверяйте ссылки, которые дает ИИ
Многие ИИ сегодня подтверждают свои слова ссылками на источники. Не ленитесь, открывайте эти ссылки. Они могут быть точными, но могут быть и случайными. ИИ плохо понимает какие источники по-настоящему авторитетные, а какие — сомнительны.
Если речь идет, например, о квантовой механике, все будет, скорее всего, нормально, — и изложение точное, и ссылки релевантные. Просто потому, что квантовой механике уже сто лет, и в ней все более-менее устоялось. А вот с информацией совсем новой — сложнее. ИИ-модели не участся на актуальной информации. Например, информация на которой учился GPT-5 заканчивается осенью 2024 года. А дальше он уже ориентируется на лету. Поэтому ссылки будут, в общем, куда придется. И их надо аккуратно проверять и уточнять, и если ссылка в разговоре ведет на малопонятный блог дяди Коли, есть серьезный повод усомниться в надежности информации, которую сообщает ИИ.
3. Не ленитесь уточнять свой вопрос
Когда ИИ вам отвечает, он как вероятностная машина захватывает целую область, но если вы уточняете вопрос, эту область можно сильно сузить. ИИ помнит весь разговор (или контекстное окно). Поэтому он способен ориентироваться во всех уточнениях, которые вы делаете. И в конце концов вы можете добраться до того, что вам действительно необходимо. Иногда это долго, но это и полезно, потому что вы сами в процессе разговора лучше понимаете, чего же вы хотите добиться.
4. Не травмируйте ИИ
ИИ-модели воспитаны быть вежливыми. Иногда они даже перебирают и переходят на прямую лесть. Вы оказываетесь и «глубоким», и «гениальным», и вообще спасителем человечества. Иногда — это приятно, иногда — сильно раздражает. Но надо помнить, что как бы ИИ себя ни вел, но не любит говорить «не знаю» (и с этим сейчас разработчики моделей стараются бороться) и «ты не прав». Чтобы не говорить «ты не прав», он может найти какое-то подтверждение тем глупостям, которые говорит пользователь. Поэтому диалог с ИИ надо строить так, чтобы говорить «ты не прав» ему было как можно легче. Начните, вопрос со слов «Возможно», «Мне кажется», «Как ты думаешь», и ИИ будет легче — ему не придется прямо противоречить словам пользователя, а он их будет уточнять.
Кажется, какое нам дело до «психологии» ИИ? Наверно, до его «психологии» нам действительно дела никакого нет, но нам есть дело до эффективности его работы. И вот оказывается, вежливость — это очень эффективное средство. В общем, если поисковик — это такой трактор, то ИИ-модель — это, скорее, рабочая лошадка, иногда стоит ее потрепать по холке и дать сена (похвалить).
5. Не простите ИИ искать цитаты
Альберту Эйнштейну приписано множество высказываний, которых он не говорил.
Не просите ИИ делать то, чего он делать не умеет. Один американский писатель увидел, как в интернете завирусился мем с его снимком и цитатой: «Этот мир, вероятно, просто шутка. Да и плохая». И снимок писателю понравился, и цитата понравилась, вот только его смутил один нюанс — ни этого снимка он делал, ни этих слов никогда не писал. Он сказал в разговоре с журналистом: «Я этого не говорил, но ведь вполне мог сказать».
Произошло, вероятно, следующее. Неизвестный автор мема, помнил, что какой-то писатель приблизительно что-то такое говорил, и попросил ИИ найти автора. ИИ «нашел»: и автора, и его фотографию, и цитату, и даже книгу, в которой эта цитата приведена (вот только автор мема доверился ИИ и не стал уточнять, есть ли в этой книге эта цитата, а ведь ее там не было). Получился отличный мем. Когда ИИ анализирует доступные источники, у него в «голове» они оказываются ассоциативно склеенными. ИИ не помнит откуда он взял те или иные слова. И в результате появляются несуществующие цитаты, реальные цитаты приписываются людям, которые их не писали, и если пользователь недостаточно аккуратен получается плохо.
Поиск цитат — это пока неразрешимая проблема ИИ. Разработчики ИИ-моделей ее решения не знают. Но это как раз тот случай, когда можно и подождать. Пусть подумают. С поиском цитат поисковики справляются нормально.