Как сообщает IFLScience, 67-летний фермер из города Чучжоу в Китае несколько месяцев использовал неназванный ИИ-чат-бот как помощника по хозяйству. Он просил его составлять график работ, подбирать удобрения и подсказывать способы ухода за растениями. Постепенно мужчина начал доверять рекомендациям программы, хотя сначала относился к ним скептически.
Китайские фермер обратился за советом к ИИ и в итоге потерял 100 000 квадратных метров урожая
Китайский фермер утверждает, что потерял урожай примерно на 10 гектарах после того, как воспользовался советом чат-бота по борьбе с вредителями. ИИ предложил смесь препаратов, которая оказалась неподходящей для кунжута, а уже на следующий день растения погибли.
Unsplash
В июле он обратился к чат-боту с более серьезным вопросом – чем обработать посевы кунжута от вредителей. Программа предложила использовать комбинацию нескольких химических препаратов, включая фомесафен. Фермер последовал совету и самостоятельно обработал поле.
Уже на следующий день выяснилось, что эксперимент закончился катастрофой: погибло около 10 гектаров посевов, то есть примерно 100 тысяч квадратных метров.
Ошибка выяснилась слишком поздно
Продолжение ниже
Видео
Продолжение
После уничтожения урожая фермер снова спросил у того же чат-бота, что произошло. На этот раз система смогла объяснить проблему: фомесафен является гербицидом, который применяют главным образом против широколистных сорняков.
Кунжут тоже относится к широколистным растениям. Поэтому препарат, предназначенный для уничтожения определенного типа сорняков, оказался опасным и для самой культуры.
В этом заключается главная пробема современных чат-ботов: они могут звучать убедительно даже тогда, когда ошибаются. ИИ не проверяет каждую рекомендацию в реальном мире и способен составить правдоподобный ответ из неверных или неподходящих сведений.
Цена доверия
Подобные ошибки уже возникали и в других сферах. Исследования показывают, что заметная доля ответов ИИ содержит существенные неточности, а иногда системы уверенно выдают полностью выдуманную информацию. Особенно опасно это становится там, где ошибка может привести к финансовым потерям, проблемам со здоровьем или повреждению имущества.
Для сельского хозяйства цена такой ошибки особенно высока – один неправильный совет способен уничтожить урожай за считаные часы. Поэтому рекомендации чат-ботов в вопросах химикатов, лекарств и других потенциально опасных средств разумнее воспринимать как отправную точку для проверки, а не как готовую инструкцию.
Загружаем