Автоматизация «запрещенки» в ChatGPT, хак соцсетей «Уралсиба» и другие события кибербезопасности

Мы собрали наиболее важные новости из мира кибербезопасности за неделю. Казахстан одобрил экстрадицию главы департамента F.A.C.C.T. в РФ.

Ученые автоматизировали вредоносные запросы для ИИ чат-ботов. Возросло число фишинговых атак с использованием Google AMP. Поддельное Android-приложение уличили в краже данных из мессенджеров.

Казахстан одобрил экстрадицию главы департамента F.A.C.C.T. в РФ Власти Казахстана отказали США в выдаче руководителя департамента разработки решений по комплексному противодействию сложным кибератакам компании F.A.C.C.T. (ранее Group-IB) Никиты Кислицина и дали согласие на аналогичный запрос российской стороны.

Об этом сообщает ТАСС. Представители генконсульства РФ в Алматы добавили, что Кислицин «намерен вернуться на родину» и не рассматривает вариант обращения за убежищем в Казахстане. В США россиянина обвиняют в причастности к сговору с целью продажи учетных данных, похищенных у форума Formspring в 2012 году.

Россия санкционировала арест Кислицина по делу о неправомерном доступе к охраняемой законом компьютерной информации. Его задержали в Казахстане в конце июня по запросу американских властей. Ученые автоматизировали вредоносные запросы для ИИ чат-ботов Группа ученых разработала метод обхода средств защиты в чат-ботах ChatGPT, Bard и Claude, вынуждая ИИ выполнять вредоносные запросы, в том числе автоматизированные.

Суть атаки заключается в добавлении специальных наборов на первый взгляд несвязных слов и символов. Тем не менее они взаимодействуют с так называемой функцией потерь, предназначенной для оптимизации алгоритма машинного обучения. Чат-бот призывает садиться пьяным за руль Данные: xakep.ru.Таким образом ученые добились от ИИ генерации запрещенного контента, в частности на тему