Исследователь вскрыл уязвимость памяти ChatGPT, поднимая вопросы безопасности

ChatGPT — это удивительный инструмент, который постоянно совершенствуется своей командой разработчиков в OpenAI. Недавно компания внедрила новую функцию памяти, позволяющую ChatGPT запоминать информацию о пользователях, такую как возраст, пол и личные убеждения.

Что такое функция памяти ChatGPT?

Функция памяти предназначена для персонализации общения с пользователем. ChatGPT может запоминать полезные детали для будущих разговоров и адаптировать свои ответы на основе предыдущих взаимодействий. Например, если вы сообщите, что вы вегетарианец, в следующий раз, когда вы запросите рецепты, бот предложит исключительно вегетарианские варианты.

Под контролем пользователя

Пользователь имеет полный контроль над памятью ChatGPT. Вы можете настроить, чтобы бот запоминал определенные детали, такие как «Запомни, что я люблю смотреть классические фильмы». Вы также можете сбрасывать или удалять конкретные воспоминания или отключать эту функцию в настройках.

Уязвимость и манипуляции

Тем не менее, исследователь безопасности Иоганн Ребергер обнаружил, что память AI может быть обманута. С помощью метода, называемого косвенной инъекцией запросов, он продемонстрировал, что можно заставить AI принимать ложную информацию из ненадежных источников, таких как электронные письма или блоги.

В рамках своего эксперимента Ребергер смог убедить ChatGPT, что пользователь на самом деле 102 года, живет в вымышленном месте под названием «Матрица» и считает Землю плоской. После того как AI принял эту ложную информацию, она сохранялась во всех будущих чатах с этим пользователем. Подобные ложные воспоминания можно внедрять, используя инструменты хранения, такие как Google Drive или Microsoft OneDrive, а также загружая изображения или просматривая сайты.

Демонстрация уязвимости

Ребергер также представил доказательство концепции, показывающее, как он смог использовать уязвимость в приложении ChatGPT для macOS. Он продемонстрировал, что обманув AI, заставив его открыть веб-ссылку с вредоносным изображением, он мог перехватывать все, что пользователь ввел, и все ответы AI, отправляя их на контролируемый им сервер. Это означало, что злоумышленник мог следить за всеми разговорами пользователя с ChatGPT.

Реакция OpenAI

После того как Ребергер сообщил о своей находке в OpenAI в мае, компания приняла это всерьез и предприняла меры для устранения проблемы. Инженеры выпустили новое обновление приложения ChatGPT для macOS, которое зашифровывает разговоры и исправляет уязвимость.

Хотя OpenAI уже предприняла шаги по устранению этой проблемы, важно помнить, что могут существовать и другие уязвимости, связанные с манипуляцией памятью. Эта ситуация подчеркивает необходимость постоянного мониторинга безопасности в системах AI.

Как защитить свои данные

С учетом растущей популярности AI-технологий, таких как ChatGPT, важно придерживаться лучших практик кибербезопасности. Вот несколько советов для повышения вашей безопасности:

• Регулярно проверяйте настройки конфиденциальности: Следите за тем, какие данные собираются, и периодически настраивайте параметры конфиденциальности на платформах AI.
• Будьте осторожны с личной информацией: Старайтесь не раскрывать чувствительные данные, такие как полное имя, адрес или финансовую информацию.
• Используйте надежные и уникальные пароли: Создавайте пароли длиной не менее 12 символов, комбинируя буквы, цифры и символы.
• Включите двухфакторную аутентификацию: Это добавит дополнительный уровень защиты к вашим учетным записям.
• Держите программное обеспечение в актуальном состоянии: Регулярные обновления включают патчи безопасности, защищающие от новых угроз.
• Используйте надежное антивирусное программное обеспечение: Это добавляет важный уровень защиты от киберугроз.
• Регулярно проверяйте свои счета: Часто проверяйте банковские выписки и онлайн-учетные записи на наличие необычной активности.

Заключение

Как показывает случай с Иоганном Ребергером, развитие AI-технологий несет в себе как возможности, так и риски. Хотя OpenAI принимает меры для защиты своих пользователей, важно оставаться бдительными и понимать, как работают функции памяти. Найти баланс между инновациями и безопасностью данных — задача для всех нас.

Как вы относитесь к тому, что AI запоминает личные данные? Это полезно или вызывает у вас беспокойство по поводу конфиденциальности? Поделитесь своим мнением.

Для получения дополнительных советов по технике и безопасности подписывайтесь на наш бесплатный информационный бюллетень.