Автор: Дарья Колмина
"Питерские заметки", 12.09.2023:
Опубликованная 11 сентября в журнале "Proceedings of the National Academy of Sciences" статья предлагает сотрудничество между искусственным интеллектом и экологией, которое может укрепить ИИ и помочь решить сложные глобальные проблемы, такие как вспышки заболеваний, утрата биоразнообразия и воздействие изменения климата.
Идея возникла из наблюдения, что ИИ может быть хорош в выполнении некоторых задач, но все еще далек от полезности в других сферах - и что развитие ИИ сталкивается с преградами, которые принципы экологии могли бы помочь преодолеть.
"Те проблемы, с которыми мы сталкиваемся регулярно в экологии, это не только вызовы, от которых ИИ мог бы получить пользу в чистом виде - это также те проблемы, где, если ИИ мог бы помочь, это могло бы много значить для всего мира", - объяснила Барбара Хан, эколог из Института экосистемных исследований Кэри, которая вместе с исследователем IBM Кушем Варшни руководила исследованием. "Это действительно могло бы принести пользу человечеству".
Экологи, включая Хан, уже используют искусственный интеллект для поиска закономерностей в больших наборах данных и более точных прогнозов, таких как возможность новых вирусов инфицировать человека и определение животных, наиболее вероятно, являющихся носителями этих вирусов.
Тем не менее, в новой статье утверждается, что есть еще много возможностей для применения ИИ в экологии, таких как синтез больших данных и поиск отсутствующих связей в сложных системах.
Ученые обычно пытаются понять мир, сравнивая между собой две переменные - например, как плотность населения влияет на количество случаев инфекционных заболеваний. Проблема в том, что, как и в большинстве сложных экологических систем, прогнозирование передачи болезни зависит от множества переменных, а не только от одной, объяснила соавтор Шеннон Ладо, эколог болезней из Института Кэри. Экологи не всегда знают, какими являются все эти переменные, и они ограничены теми, которые могут быть легко посчитаны (в отличие, например, от социокультурных факторов), и трудно уловить, как эти различные переменные взаимодействуют.
"По сравнению с другими статистическими моделями ИИ способен включать в себя большее количество данных и разнообразие источников данных, и это может помочь нам обнаружить новые взаимодействия и факторы", считает специалист.
Системы искусственного интеллекта известны своей хрупкостью, что может иметь потенциально разрушительные последствия.
Авторы утверждают, что невероятная устойчивость экологических систем может вдохновить на создание более надежных и адаптивных архитектур искусственного интеллекта. В частности, Варшни считает, что экологические знания могут помочь решить проблему "режимного коллапса" в искусственных нейронных сетях, которые часто используются в распознавании речи, компьютерном зрении и других областях.
"Режимный коллапс" - это когда вы обучаете искусственную нейронную сеть на чем-то, а затем обучаете ее на чем-то другом, и она забывает то, чему ее обучили первоначально", - пояснил он. "Более глубокое понимание причин режимного коллапса и того, почему он происходит или не происходит в природных системах, может помочь нам избежать этого в ИИ".
Вдохновленные экологическими системами, более надежные ИИ могли бы включать в себя обратные связи, избыточные пути и алгоритмы принятия решений. Эти обновления гибкости также могли бы способствовать более "общему интеллекту" для ИИ, который мог бы обеспечивать рассуждение и создание связей за пределами конкретных данных, на которых был обучен алгоритм.
Экология также может помочь раскрывать причины того, почему ИИ-модели больших языков, которые питают популярных чат-ботов, таких как ChatGPT, проявляют внезапные поведенческие характеристики, которые отсутствуют в более мелких языковых моделях. Эти характеристики включают в себя "галлюцинации" - когда ИИ генерирует ложную информацию. Поскольку экология изучает сложные системы на нескольких уровнях, она хорошо подходит для выявления таких свойств и может помочь раскрыть механизмы такого поведения.
Более того, будущее развитие искусственного интеллекта зависит от новых идей. Генеральный директор OpenAI, создатели ChatGPT, заявил, что дальнейший прогресс не будет достигнут просто увеличением размеров моделей.
"Здесь должны быть другие вдохновения, и экология предлагает один из путей для новых линий мышления", - сказал Варшни.
Хотя экология и искусственный интеллект развивались в подобных направлениях независимо друг от друга, исследователи считают, что более тесное и осознанное сотрудничество может привести к большим успехам в обеих областях.
Стабильность представляет собой убедительный пример того, как обе области могут выиграть, работая вместе. Для экологии достижения ИИ в измерении, моделировании и прогнозировании естественной устойчивости могли бы помочь подготовиться и реагировать на изменение климата. Для ИИ более ясное понимание того, как работает экологическая устойчивость, может вдохновить более устойчивые ИИ, которые затем еще лучше смогли бы моделировать и исследовать экологическую устойчивость, представляя позитивную обратную связь.
Тесное сотрудничество также обещает способствовать большей социальной ответственности в обеих областях. Экологи работают над внедрением различных способов понимания мира из разных традиционных систем знаний, и искусственный интеллект может помочь объединить эти разные способы мышления. Поиск способов интеграции различных типов данных может помочь улучшить наше понимание социо-экологических систем, освободить область экологии и исправить предвзятости в системах ИИ.
"ИИ-модели строятся на существующих данных и обучаются и переобучаются, когда они возвращаются к существующим данным", - сказала соавтор Кэтлин Уизерс, ученая-экосистемолог Института экосистемных исследований Кэри. "Когда у нас есть пробелы в данных, мы создаем модели с недостатками, которые могут сохранять неточности".
Достижение схожести между исследованиями в области ИИ и экологии потребует построения мостов между этими двумя изолированными дисциплинами, которые в настоящее время используют разные словари, функционируют в разных научных культурах и имеют разные источники для получения информации.
"Я надеюсь, что она хотя бы вызовет много разговоров", - говорит Хан.
Инвестирование в общее развитие экологии и искусственного интеллекта имеет потенциал принести трансформационные виды и решения, которые так же невообразимы и деструктивны, как недавние достижения в области чатботов и глубокого обучения, пишут авторы. "Последствия успешного слияния выходят за рамки развития экологических дисциплин или достижения искусственного интеллекта - они критически важны как для выживания, так и для процветания в неопределенном будущем."
Идея возникла из наблюдения, что ИИ может быть хорош в выполнении некоторых задач, но все еще далек от полезности в других сферах - и что развитие ИИ сталкивается с преградами, которые принципы экологии могли бы помочь преодолеть.
"Те проблемы, с которыми мы сталкиваемся регулярно в экологии, это не только вызовы, от которых ИИ мог бы получить пользу в чистом виде - это также те проблемы, где, если ИИ мог бы помочь, это могло бы много значить для всего мира", - объяснила Барбара Хан, эколог из Института экосистемных исследований Кэри, которая вместе с исследователем IBM Кушем Варшни руководила исследованием. "Это действительно могло бы принести пользу человечеству".
Экологи, включая Хан, уже используют искусственный интеллект для поиска закономерностей в больших наборах данных и более точных прогнозов, таких как возможность новых вирусов инфицировать человека и определение животных, наиболее вероятно, являющихся носителями этих вирусов.
Тем не менее, в новой статье утверждается, что есть еще много возможностей для применения ИИ в экологии, таких как синтез больших данных и поиск отсутствующих связей в сложных системах.
Ученые обычно пытаются понять мир, сравнивая между собой две переменные - например, как плотность населения влияет на количество случаев инфекционных заболеваний. Проблема в том, что, как и в большинстве сложных экологических систем, прогнозирование передачи болезни зависит от множества переменных, а не только от одной, объяснила соавтор Шеннон Ладо, эколог болезней из Института Кэри. Экологи не всегда знают, какими являются все эти переменные, и они ограничены теми, которые могут быть легко посчитаны (в отличие, например, от социокультурных факторов), и трудно уловить, как эти различные переменные взаимодействуют.
"По сравнению с другими статистическими моделями ИИ способен включать в себя большее количество данных и разнообразие источников данных, и это может помочь нам обнаружить новые взаимодействия и факторы", считает специалист.
Системы искусственного интеллекта известны своей хрупкостью, что может иметь потенциально разрушительные последствия.
Авторы утверждают, что невероятная устойчивость экологических систем может вдохновить на создание более надежных и адаптивных архитектур искусственного интеллекта. В частности, Варшни считает, что экологические знания могут помочь решить проблему "режимного коллапса" в искусственных нейронных сетях, которые часто используются в распознавании речи, компьютерном зрении и других областях.
"Режимный коллапс" - это когда вы обучаете искусственную нейронную сеть на чем-то, а затем обучаете ее на чем-то другом, и она забывает то, чему ее обучили первоначально", - пояснил он. "Более глубокое понимание причин режимного коллапса и того, почему он происходит или не происходит в природных системах, может помочь нам избежать этого в ИИ".
Вдохновленные экологическими системами, более надежные ИИ могли бы включать в себя обратные связи, избыточные пути и алгоритмы принятия решений. Эти обновления гибкости также могли бы способствовать более "общему интеллекту" для ИИ, который мог бы обеспечивать рассуждение и создание связей за пределами конкретных данных, на которых был обучен алгоритм.
Экология также может помочь раскрывать причины того, почему ИИ-модели больших языков, которые питают популярных чат-ботов, таких как ChatGPT, проявляют внезапные поведенческие характеристики, которые отсутствуют в более мелких языковых моделях. Эти характеристики включают в себя "галлюцинации" - когда ИИ генерирует ложную информацию. Поскольку экология изучает сложные системы на нескольких уровнях, она хорошо подходит для выявления таких свойств и может помочь раскрыть механизмы такого поведения.
Более того, будущее развитие искусственного интеллекта зависит от новых идей. Генеральный директор OpenAI, создатели ChatGPT, заявил, что дальнейший прогресс не будет достигнут просто увеличением размеров моделей.
"Здесь должны быть другие вдохновения, и экология предлагает один из путей для новых линий мышления", - сказал Варшни.
Хотя экология и искусственный интеллект развивались в подобных направлениях независимо друг от друга, исследователи считают, что более тесное и осознанное сотрудничество может привести к большим успехам в обеих областях.
Стабильность представляет собой убедительный пример того, как обе области могут выиграть, работая вместе. Для экологии достижения ИИ в измерении, моделировании и прогнозировании естественной устойчивости могли бы помочь подготовиться и реагировать на изменение климата. Для ИИ более ясное понимание того, как работает экологическая устойчивость, может вдохновить более устойчивые ИИ, которые затем еще лучше смогли бы моделировать и исследовать экологическую устойчивость, представляя позитивную обратную связь.
Тесное сотрудничество также обещает способствовать большей социальной ответственности в обеих областях. Экологи работают над внедрением различных способов понимания мира из разных традиционных систем знаний, и искусственный интеллект может помочь объединить эти разные способы мышления. Поиск способов интеграции различных типов данных может помочь улучшить наше понимание социо-экологических систем, освободить область экологии и исправить предвзятости в системах ИИ.
"ИИ-модели строятся на существующих данных и обучаются и переобучаются, когда они возвращаются к существующим данным", - сказала соавтор Кэтлин Уизерс, ученая-экосистемолог Института экосистемных исследований Кэри. "Когда у нас есть пробелы в данных, мы создаем модели с недостатками, которые могут сохранять неточности".
Достижение схожести между исследованиями в области ИИ и экологии потребует построения мостов между этими двумя изолированными дисциплинами, которые в настоящее время используют разные словари, функционируют в разных научных культурах и имеют разные источники для получения информации.
"Я надеюсь, что она хотя бы вызовет много разговоров", - говорит Хан.
Инвестирование в общее развитие экологии и искусственного интеллекта имеет потенциал принести трансформационные виды и решения, которые так же невообразимы и деструктивны, как недавние достижения в области чатботов и глубокого обучения, пишут авторы. "Последствия успешного слияния выходят за рамки развития экологических дисциплин или достижения искусственного интеллекта - они критически важны как для выживания, так и для процветания в неопределенном будущем."