Песочница ChatGPT открывает доступ к конфиденциальной информации

"Питерские заметки", 18.11.2024:

Открытие, сделанное экспертом Mozilla Марко Фигероа, касающееся недокументированных возможностей песочницы ChatGPT, привлекло внимание к потенциальной уязвимости ИИ-систем. В ходе эксперимента, когда Фигероа запрашивал список файлов с помощью команды, аналогичной Linux-команде ls (list files), бот предоставил список директорий и файлов, характерных для Linux-системы, таких как /bin, /dev, /tmp, /sys. Это указывает на то, что ChatGPT может иметь доступ к файловой системе хост-системы, несмотря на работу в изолированной среде.

Особое внимание привлекла директория /home/sandbox/.openai_internal/, где могли храниться конфигурационные файлы и другие данные, относящиеся к внутренней работе ChatGPT.

Хотя доступ к этим данным был ограничен в пределах изолированной среды и не выходил за её пределы, подобные уязвимости в песочнице могут не только раскрывать информацию о системе, но и представлять угрозу для конфиденциальности данных. В ответ на отчет разработчики OpenAI приняли его к сведению, однако ограничений по доступу или изменений в безопасности не было введено.

Эксперимент Фигероа поднимает вопросы о безопасности и конфиденциальности в системах ИИ, особенно в контексте обработки данных и возможности раскрытия конфиденциальной информации, даже если она остаётся внутри контролируемой среды.

Внимание! Информация на сайте представлена исключительно в ознакомительных целях, не является призывом к действию. Перед применением любых рекомендаций обязательно проконсультируйтесь со специалистом. Могут иметься противопоказания или индивидуальная непереносимость.

Новости спорта

Александр Беглов: Четыре предприятия получат более 520 млн рублей из Фонда развития промышленности Санкт-Петербурга на закупку оборудования и модернизацию производства

Александр Беглов: Больше 3 млн петербуржцев вакцинировались от гриппа

К новому сезону готов фонтан во дворе доходного дома Лидваля в Петроградском районе

Международное движение ЛГБТ (запрещено в РФ) и его структурные подразделения внесены в список террористов и экстремистов. Дарья Трепова внесена в реестр террористов и экстремистов.

Признаны иностранными агентами на территории РФ: Пинхас (Филипп) Гольдшмидт, Алексей В. Горпинченко, Андрей В. Караулов, Андрей З. Морев, Михаил Л. Тимонов, АНОО «Англо-американская школа Москвы», сетевое издание Sota.vision, издание «Бумага», Александр Е. Белик, Виталий В. Боварь, Илья А. Колмановский, Роберт Р. Латыпов, Михаила С. Лобанов, Леонид Б. Невзлин, Евгений В. Ступин, «Движение сознательных отказчиков», комьюнити-центр «Действие», Сергей В. Алексашенко, Виталий В. Манский, Юлия Б. Парамонова, Светлана В. Прокопьева, Лев М. Шлосберг, информационный портал «ВЕСЬМА», фонд «Свободная Якутия», Максим Р. Кузахметов, Дмитрий Б. Орешкин, Роман В. Супер, издание «Проект», ООО «ЯРНОВОСТИ», Егор М. Бортник, Магомед Т. Гаджиев, Ирина В. Аллеман, Владислав Л. Иноземцев, Сергей А. Чернышов, Александра С. Архипова, Александр Т. Габуев, Анна Э. Пшеничная, Ольга В. Цуканова, объединение «Общенародный Союз Возрождения России», общественное движение «Совет матерей и жен», Гребенщиков Борис Борисович, Киселёв Евгений Алексеевич, Ганапольский Матвей Юрьевич, Волков Леонид Михайлович, Кара-Мурза Владимир Владимирович, Моргенштерн Алишер Тагирович, Ходорковский Михаил Борисович, Каспаров Гарри Кимович, Чичваркин Евгений Александрович, Шаведдинов Руслан Табризович, Яшин Илья Валерьевич, Кац Максим Евгеньевич, Белоцерковская Вероника Борисовна, Лазарева Татьяна Юрьевна, Гордон Дмитрий Ильич, Гордеева Катерина Владимировна, Жданов Иван Юрьевич, Зимин Борис Дмитриевич, Макаревич Андрей Вадимович, Крашенинников Фёдор Геннадиевич, Латынина Юлия Леонидовна, Эйдельман Тамара Натановна, Наки Майкл Сидней, Галкин Максим Александрович, Иванов Дмитрий Сергеевич, Кушнарь Александр Александрович, Кен Даниил Олегович, Цимбалюк Роман Владимирович, Литвин Богдан Геннадьевич, Мартыненко Тимофей Сергеевич, Фёдоров Мирон Янович, Сторожева Ирина Владимировна, Попова Алёна Владимировна, Низовцев Дмитрий Александрович, Ярмыш Кира Александровна, Дзядко Тихон Викторович, Габбасов Руслан Салаватович, Кочкин Семён Александрович, Шуманов Илья Вячеславович, Пономарёв Илья Владимирович, Роднянский Александр Ефимович, Шадрина (Фельгенгауэр) Татьяна Владимировна, Босов Катерина Евгеньевна, Плющев Александр Владимирович, Котрикадзе Екатерина Бесикиевна, Беньяш Михаил Михайлович, Синдеева Наталья Владимировна, Березовец Тарас Валерьевич, Яковина Иван Викторович, Роменский Владимир Андреевич, Карпук (Левиев) Руслан Леонидович, Мальцев Вячеслав Вячеславович, Шихман Ирина Юрьевна, Алексеев Иван Александрович, Заякин Андрей Викторович, Усанова Олимпиада Валентиновна, Светов Михаил Владимирович, Телин Фёдор Алексеевич, Ковин Виталий Сергеевич, Новиков Илья Сергеевич, Монгайт Анна Викторовна, Ройзман Евгений Вадимович, Гармажапова Александра Цыреновна, Пономарёв Лев Александрович, Савицкая Людмила Алексеевна, Маркелов Сергей Евгеньевич, Камалягин Денис Николаевич, Апахончич Дарья Александровна, Баданин Роман Сергеевич, Гликин Максим Александрович, Маняхин Пётр Борисович, Ярош Юлия Петровна, Чуракова Ольга Владимировна, Железнова Мария Михайловна, Лукьянова Юлия Сергеевна, Маетная Елизавета Витальевна, Рубин Михаил Аркадьевич, Гройсман Софья Романовна, Рождественский Илья Дмитриевич, Апухтина Юлия Владимировна, Постернак Алексей Евгеньевич, Петров Степан Юрьевич, Шмагун Олеся Валентиновна, Мароховская Алеся Алексеевна, Долинина Ирина Николаевна, Шлейнов Роман Юрьевич, Анин Роман Александрович, Великовский Дмитрий Александрович, Каткова Вероника Вячеславовна, Карезина Инна Павловна, Жилинский Владимир Александрович, Тихонов Михаил Сергеевич, Пискунов Сергей Евгеньевич, Кильтау Екатерина Викторовна, Гурман Юрий Альбертович, Важенков Артём Валерьевич, Иванова София Юрьевна, Петров Алексей Викторович, Егоров Владимир Владимирович, Гусев Андрей Юрьевич, Смирнов Сергей Сергеевич, Верзилов Пётр Юрьевич, Вольтская Татьяна Анатольевна, Клепиковская Екатерина Дмитриевна, Сотников Даниил Владимирович, Захаров Андрей Вячеславович, Симонов Евгений Алексеевич, Сурначева Елизавета Дмитриевна, Соловьёва Елена Анатольевна, Арапова Галина Юрьевна, Перл Роман Александрович, Заговора Максим Александрович, Ветошкина Валерия Валерьевна, Павлов Иван Юрьевич, Скворцова Елена Сергеевна, Оленичев Максим Владимирович, Кочетков Игорь Викторович, Еланчик Олег Александрович, Григорьева Алина Александровна, Григорьев Андрей Валерьевич, Гималова Регина Эмилевна, Хисамова Регина Фаритовна, Гельман Марат Александрович, Шендерович Виктор Анатольевич, Беляев Иван Михайлович, Владыкина Елена Сергеевна, Бекбулатова Таисия Львовна, Толоконникова Надежда Андреевна, Никульшина Вероника Юрьевна, Алексеев Андрей Викторович, Агеева (Айнбиндер) Александра Александровна, Голубева Анна Львовна, Константинова Алла Михайловна, Борзунова Мария Михайловна, Мурадов Мурад Абдулгалимович, Малкова Ирина Владимировна, Осетинская Елизавета Николаевна, Понасенков Евгений Николаевич, Воробьёв Виктор Викторович, Дремин Иван Тимофеевич, Борухович (Тумакова) Ирина Григорьевна, Фейгин Марк Захарович, Маяковская Екатерина Алексеевна, Филимонов Андрей Викторович, Дубровский Дмитрий Викторович, Дзугкоева Регина Николаевна, Шаинян Карен Багратович, Шульман Екатерина Михайловна, Сабунаева Мария Леонидовна, Семёнов Алексей Владимирович, Дудь Юрий Александрович, Кругликов Кирилл Игоревич, Доброхотов Роман Александрович, Ёлкин Сергей Владимирович, Вахштайн Виктор Семёнович, Сироткин Ярослав Николаевич, Пархоменко Сергей Борисович, Асафьев Артур Валерьевич, Невзоров Александр Глебович, Лушникова Екатерина Евгеньевна, Венедиктов Алексей Алексеевич, Милов Владимир Станиславович, Кагарлицкий Борис Юльевич, Гозман Леонид Яковлевич, Соболь Любовь Эдуардовна, Климарев Михаил Валерьевич, Баранова Наталья Владимировна, Константинов Денис Владимирович, Соколов Михаил Владимирович, Пивоваров Алексей Владимирович, Цветкова Юлия Владимировна, Кашин Олег Владимирович, Петров Николай Владимирович, Данилович Ирина Брониславовна, Алешковский Дмитрий Петрович, Быков Дмитрий Львович, Альбац Евгения Марковна, Федоров Кирилл Владимирович, Мартынов Кирилл Константинович, Лойко Сергей Леонидович, Галямина Юлия Евгеньевна, Шац Михаил Григорьевич, Медведев Сергей Александрович, Соловей Валерий Дмитриевич, Шукаева Елена Викторовна, Афанасьев Андрей Андреевич, Ясавеев Искэндэр Габдрахманович, Балтатарова Евгения Семеновна, Глуховский Дмитрий Алексеевич, Жадаев Иван Алексеевич, Харатьян Кирилл Евгеньевич, Рувинский Владимир Владимирович, Куцылло Вероника Иосифовна, Долин Антон Владимирович, Телегина Наталия Геннадьевна, Зыгарь Михаил Викторович, Докучаев Алексей Алексеевич, Баев Андрей Сергеевич, Биккинин Ирек Дамирович, Колезев Дмитрий Евгеньевич, Барабашова Любовь Григорьевна, Аскеров Ровшан Энвер оглы, Апресян Рубен Грантович, Фишман Михаил Владимирович, Мурзагулов Ростислав Рафкатович, Таратута Юлия Леонидовна, Тютрин Иван Иванович, Любимов Дмитрий Александрович, Давыдов Дмитрий Викторович, Грязневич Наталья Владимировна, Жвик Анастасия Николаевна, Ганнушкина Светлана Алексеевна, Пьяных Глеб Валентинович, Колесников Андрей Владимирович, Троицкий Артемий Кивович, Смольянинов Артур Сергеевич, Кирсанов Сергей Владимирович, Фурсов Анатолий Владимирович, Ухов Сергей Анатольевич, Шелест Александр, Гырдымова Елизавета Андреевна, Осечкин Владимир Валерьевич, Пикули (Устимов) Антон Михайлович, Яганов Ибрагим Хасанбиевич, Харченко Вадим Михайлович, Беседина Дарья Станиславовна, Илья Владимирович Прусикин, Агумава Фидель Эдуардович, Омбадыков Эрдни Басан, Кашапов Рафис Рафаилович, Серенко Дарья Андреевна, Мезерин Павел Владимирович, Николай Юрьевич Соболев, Макашенец Александр Юрьевич, Дудко Екатерина Артуровна, Прокашева Елена Владимировна, Рамазанова Земфира Талгатовна, Гудков Дмитрий Геннадьевич, Намазбаева Татьяна Валерьевна, Асланян Сергей Степанович, Шпилькин Сергей Александрович, Ривина Анна Валерьевна, Казанцева Александра Николаевна, Зубов Андрей Борисович, Лошак Андрей Борисович, Губарев, Данил Евгеньевич, Гуриев Сергей Маратович, Гершензон Лев Михайлович, Гудков Геннадий Владимирович, Водвуд Вераника Сергеевна, Варламов Илья Александрович, Чиков Павел Владимирович, Айсин Руслан Валерьевич, Лада-Русь Светлана Михайловна, Бакалейко Богдан Владимирович, Покровский Максим Сергеевич, Бойко Сергей Андреевич, Чентемиров Георгий Ростиславович, Бабченко Аркадий Аркадьевич, Слепаков Семен Сергеевич, Яковенко Игорь Александрович, Мунтян Павел Андреевич, Каныгин Павел Юрьевич, Грозев Христо, Севец-Ермолина Наталья Федоровна, Вихарева Эльвира Владимировна, Матвеев Ян Андреевич, Осовцов Александр Авраамович, Преображенский Иван Сергеевич, Албуров Георгий Валентинович, Максакова-Игенбергс Мария Петровна, Певчих Мария Константиновна, Пастухов Владимир Борисович, Агафонова Елена Владимировна (список обновлён последний раз в 14:00 мск 22 мая 2023 года).

В России признаны экстремистскими и запрещены организации ФБК (Фонд борьбы с коррупцией, признан иноагентом), Штабы Навального, «Национал-большевистская партия», «Свидетели Иеговы», «Армия воли народа», «Русский общенациональный союз», «Движение против нелегальной иммиграции», «Правый сектор», УНА-УНСО, УПА, «Тризуб им. Степана Бандеры», «Мизантропик дивижн», «Меджлис крымскотатарского народа», движение «Артподготовка», общероссийская политическая партия «Воля», АУЕ, батальоны «Азов» и Айдар. Признаны террористическими и запрещены: «Движение Талибан», «Имарат Кавказ», «Исламское государство» (ИГ, ИГИЛ), Джебхад-ан-Нусра, «АУМ Синрике», «Братья-мусульмане», «Аль-Каида в странах исламского Магриба», «Сеть», «Колумбайн». В РФ признана нежелательной деятельность «Открытой России», издания «Проект Медиа». Иноагентами признаны: телеканал «Дождь», «Медуза», «Важные истории», «Голос Америки», радио «Свобода», The Insider, «Медиазона», ОВД-инфо. Иноагентами признаны общество/центр «Мемориал», «Аналитический Центр Юрия Левады», Сахаровский центр. Instagram и Facebook (Metа) запрещены в РФ за экстремизм

21 июля 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены К.Н. Боровой, М.Н. Козырев, А.С. Литвинов, П.В. Суляндзига, общественная организация «Омское гражданское объединение», инициативная группа «Центр Т», автономная некоммерческая организация содействия улучшению качества жизни людей из групп социального риска «Право каждого», а также Интернет-журнал и медиаплатформа «7х7 – Горизонтальная Россия».

18 августа 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены Л.-Д. Горалик, В.А. Довданов, А.Н. Илларионов, С.К. Кондакова, С.В. Кривенко, А.А. Пионтковский и Т.А. Сотникова.

25 августа 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены В.Н. Дымарский, М.Х. Кочесоков, М.И. Крутихин, К.Ю. Рогов, А.А. Штефанов, К.П. Эггерт, иностранное юридическое лицо MRR-Fund gemeinnützige UG (haftungsbeschränkt), реализующее проект My Russian Rights, а также Интернет-издание «Довод».

15 сентября 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены С.А. Белковский, Е.С. Кочегин, К.В. Седов, Ю.Е. Федоров, а также И.А. Шепелин.

8 сентября 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены В.А. Котляров, А.В. Мальгин, Н.А. Митрохин, Н.В. Пелевина, О.В. Подольская, а также М.Ш. Шакиров.

1 сентября 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены О.А. Баршева, Р.В. Белый, М.М. Вачагаев, Е.В. Карпов, Д.С. Катаев, Д.А. Муратов, О.Э. Радзинский, М.Л. Резник, К.И. Сонин, а также антивоенное этническое движение «Новая Тыва» (New Tuva).

20 октября 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены И.Е. Косыгин, Г.Ф. Кунадзе, а также М.В. Савва.

13 октября 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены И.М. Волобуев, В.В. Вотановский, Е.В. Доможиров, В.С. Жуковский, С.В. Ковальченко, А.М. Курманакаев, Е.В. Малаховская, А.И. Муждабаев, О.Е. Романова, Д.Б. Рудакова, А.В. Рудой, а также А.А. Сидельников.

10 ноября 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены С.Г. Колдобский, А.В. Малов, проект «Гроза», интернет-источник «Кедр.медиа»

3 ноября 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены Д.П. Губин, Д.С. Еловский, К.В. Качур, А.А. Солдатов, М.В. Снеговая.

1 декабря 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены А.А. Буракова, И.В. Эйдман, проект «Ковчег», а также иное объединение лиц, осуществляющее деятельность под наименованием «Телеканал Дождь».

24 ноября 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены И.Г. Венявкин, И.В. Давлятчин, М.М. Касьянов, И.Г. Юсупов, а также общество с ограниченной ответственностью «ЛЮДИ».

17 ноября 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены И.Л. Бер, А.О. Морозов, Г.С.Свердлин, Я.А. Троянова, интернет-издание «The Moscow Times», иностранная организация Hidemy.network Ltd., реализующая VPN-сервис «HideMy.name».

22 декабря 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены А.Г. Баунов, С.С. Дарбинян, О.И. Куваев, А.В. Кураев, В.Е. Ратникова, А.Ю. Рыклин, Интернет-издание«Вёрстка Медиа», а также проект «Можем объяснить».

15 декабря 2023 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены А.А. Вайсман, А.В. Затирко, Х.В. Пирогова, Д.В. Соколов, а также Г.С. Шведов.

2 февраля 2024 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены А.В. Картавин, С.А. Козловский, О.П. Орлов, Н.П. Соколов, С.Н. Степанов, а также М.Ю. Чимаров.

26 января 2024 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены Д.В. Потапенко, М.А. Трудолюбов, а также проект «ВОТ ТАК».

19 января 2024 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены В.Г. Живица, В.А. Олейник, Л.М. Тагаева, Е.С. Чирикова, Г.Б. Юдин, лекторий «Живое слово», а также «Комитет ингушской независимости».

12 января 2024 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены А.В. Куршин, А.В. Минкин, А.С. Соколов, Г.Ш. Чхартишвили, а также Интернет-издание «Холод».

16 февраля 2024 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены А.Х. Арцуев, Н.А. Кукушкин, А.А. Наринская, Ю.В. Синеокая, О.Ю. Тиньков.

1 марта 2024 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены С.Ю. Медведев, Л.Е. Улицкая, И.А. Хржановский, незарегистрированное общественное объединение Центр защиты прав человека «Мемориал», а также благотворительный фонд «Нужна помощь».

15 марта 2024 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены М.Б. Беленькая, С.В. Каверзина, О.В. Кашинцев, Р.А. Либеров, И.В. Липсиц, С.А. Трескунов, а также К.В. Ишутин.

22 марта 2024 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены К.В. Набутов, А.В. Скобов, проект «Лаборатория публичной социологии», «Смола» («Smola»), проект «T-invariant».

29 марта 2024 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены Б.Л. Вишневский, В.Ю. Прохоров, а также проект «Первый отдел».

5 апреля 2024 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены М.И. Веллер, А.А. Татулова, а также «Российское социалистическое движение» (РСД).

12 апреля 2024 г. в соответствии с распоряжениями Минюста России в реестр иностранных агентов включены И.И. Асташин, И.А. Барабанов, А.А. Казанцева, Н.А. Кузьмин, И.Б. Филиппов, а также ООО «ИНОАГЕНТ АВК».