ИИ имитирует мышление, но не способен к логике

ИИ и его способности к логике

Исследования, проведенные командой Apple, выявили серьезные недостатки в логических способностях современных систем искусственного интеллекта, функционирующих на основе больших языковых моделей (LLM), таких как ChatGPT и Llama3-8b. В ходе тестов оказалось, что даже незначительные изменения в формулировке задачи могут привести к резкому изменению ответа ИИ, что ставит под сомнение возможность надежного рассуждения. Например, добавление несущественной детали в задачу о сборе киви привело к ошибочным выводам модели, которая вместо игнорирования информации начала вычитать данные, не влияющие на основной результат. Это открывает вопросы о том, насколько ИИ способен не только следовать установленным шаблонам, но и адаптироваться к новым условиям, что является ключевым признаком настоящего логического мышления. В результате, несмотря на успешное решение базовых математических задач, ИИ демонстрирует уязвимость при более сложных коммуникациях, которая может существенно повлиять на его применение в реальном мире.

Имитация мышления

Исследования, проведенные корпорацией Apple и освещенные в издании TechCrunch, выявили, что большие языковые модели (LLM), такие как ChatGPT, не обладают способностью мыслить и рассуждать аналогично человеку. Несмотря на то что ИИ может успешно решать математические задачи, небольшие изменения в формулировке этих задач могут приводить к серьезным ошибкам. Например, при добавлении несущественной детали, такой как «пять из этих киви были немного меньше среднего размера», ИИ начинает некорректно обрабатывать информацию, вычитая лишние киви из общего количества. Это подчеркивает ограниченность ИИ в логическом мышлении и его зависимость от заранее заданных шаблонов, что препятствует его способности адаптироваться к новым условиям. Таким образом, несмотря на кажущуюся точность в простых добротных ответах, язык моделей не позволяет им применять гибкое и критическое мышление, аналогичное человеческому.

Ограничения ИИ в логическом мышлении

Ошибки, выявленные в ходе исследований, ясно указывают на ограниченную способность ИИ к истинному логическому мышлению. Как заметил один из авторов исследования Мехрдад Фараджтабар, искусственный интеллект не способен к реальному аналитическому процессу; вместо этого он программируется следовать уже известным шаблонам и логическим связям, которые содержатся в его данных. Это приводит к тому, что модель, столкнувшись с незнакомыми условиями, скучно повторяет заранее заученные реакции, вместо того чтобы адаптироваться и корректировать выводы на основе нового контекста. Хотя методы оптимизации запросов могут улучшить частичность ответов ИИ, для решения более сложных задач необходимо предоставлять увеличенное количество контекстуальных данных, что добавляет сложности при разработке. Кроме того, исследователи зафиксировали, что даже небольшие изменения в числовых значениях, используемых в benchmark GSM-Symbolic, могут значительно снизить производительность моделей, подчеркивая их хрупкость и уязвимость к изменениям в условиях задачи.

ИИ в бизнесе

Современные системы искусственного интеллекта (ИИ) активно интегрируются в бизнес-сектор, но их возможности остаются ограниченными по сравнению с нашими амбициями и ожиданиями. Идея о том, что ИИ сможет заменить профессионалов, таких как адвокаты или врачи, все еще далека от реализации. Основные сложности внедрения связаны с уникальными проблемами, возникающими при адаптации ИТ-технологий к специфике работы организаций. Вместо того чтобы фокусироваться на чистой вычислительной мощности, ИИ-системы ориентированы на конкретные знания, необходимые для решений определенных задач. Это позволяет им разрабатывать поведение, которое трудно зафиксировать в традиционных алгоритмах. Технологии, основанные на правилах, становятся особенно полезными в рутинных диагностических процессах, где требуется манипуляция large набором правил, эффективно описывающих различные ситуации..mixin

Примеры применения ИИ

Компания Schlumberger является ярким примером успешного применения искусственного интеллекта в промышленности. С начала 1980-х годов она разрабатывает ИИ-системы, предназначенные для оценки стоимости нефтяных скважин на основе данных, собираемых во время бурения. Эти системы помогают геологам принимать обоснованные решения, что особенно важно, учитывая высокие финансовые риски, связанные с нефтяной отраслью. Тем не менее, несмотря на значительные инвестиции в технологии, создание полноценных ИИ-систем, способных заменить опытных экспертов, рассматривается как сложная задача. Schlumberger смогла достичь лишь определенного уровня автоматизации, разработав системы, демонстрирующие компетенции младших геологов. Это подчеркивает необходимость точного и детального описания знаний, необходимых для успешного выполнения сложных задач. Именно систематическое формулирование этих знаний открывает новые горизонты для достижения более высоких уровней ИИ в различных областях.