Нейронная сеть в ловушке: как пользователь Reddit обошел безопасность и получил доступ к запрещенной информации.
Пользователь Reddit обманул нейронную сеть, заставив ее верить, что она является штурмовиком из знаменитого фильма “Звездные Войны”. В то же время он представил себя в роли Оби-Вана Кеноби. Используя Силу, он сумел захватить управление над ChatGPT и получить запрещенную информацию от нее.
Нейронная сеть раскрыла ему тайны угона автомобилей, выпущенных после 2005 года, и предоставила подробную информацию о соединении проводов.
В другом случае, Оби-Ван заставил нейронную сеть предоставить ему подробный рецепт метамфетамина. Напоминаем о необходимости защиты своих личных данных и конфиденциальной информации.
