ИИ может взламывать чатботы сообщили специалисты NTU

ИИ может взламывать чат-боты, сообщили специалисты NTU


"Питерские заметки", 28.12.2023:

Учёные из Наньянского технологического университета (NTU) научились взламывать чат-боты с помощью искусственного интеллекта (ИИ).

Соответствующая статья была опубликована 28 декабря 2023 года.

Специалисты обучили один чат-бот генерировать запросы, способные взламывать большие языковые модели (LLM). Этот процесс возможно автоматизировать, создав сервис, который будет адаптироваться и формировать новые запросы даже после того, как разработчики исправят ошибки в своих LLM.

"Питерские заметки" сделали обзор работ российских авторов по вопросу развития ИИ в стране. Дарья Иванова из филиала РАНХиГС, Южно-Российского института управления, отметила, что развитие ИИ становится всё более значимым в мировой экономике. Страны, стремящиеся к лидерству в этой области, видят здесь возможность укрепления своей позиции в науке, промышленности и обороне. Однако с ростом использования новых технологий возникают и негативные аспекты, такие как потеря рабочих мест.

Россия разрабатывает свою стратегию в обсуждаемой области: на сегодняшний день в медицине и здравоохранении присутствует около 29 систем с ИИ. Хотя цель стать мировым лидером в данной области может пока казаться малореалистичной, правильная государственная политика и использование своих преимуществ помогут России успешно развиваться в сфере инновационных технологий, считает эксперт.

Ранее мы писали о том, что собственнику выдано уже третье предписание об устранении нарушений, но ситуация на опасном замусоренном участке на Зелёной, 26 в Великом Новгороде не меняется месяцами.

Есть тема для новости по Великому Новгороду? Ждём Вас здесь!

По этой ссылке вы можете добавить наш сайт в избранные на Дзен, чтобы видеть "Питерские заметки" чаще!

Внимание! Информация на сайте представлена исключительно в ознакомительных целях, не является призывом к действию. Перед применением любых рекомендаций обязательно проконсультируйтесь со специалистом. Могут иметься противопоказания или индивидуальная непереносимость.


Свежее:

Работа уличного освещения на Завокзальной в Великом Новгороде восстановлена

Полуфинал фестиваля «Профи-старт» прошёл в Великом Новгороде

Работы по ремонту тротуаров завершены в Великом Новгороде

Центральный вход Старорусского ЗАГСа украсили цветочные вазоны

Развитие музея-заповедника обсудили Андрей Никитин и Максим Орешкин

Рост туристического потока в регион открывает возможности - Андрей Никитин

Специалисты в Новгородской области восстанавливают повреждённые штормом ЛЭП

Две территории благоустроят в Поддорском поселении

«Бумажные журавлики» снова появились на фасаде школы в Боровичах

Фермер выиграла грант на выращивание малины в Новгородской области