Microsoft обяви подробности за нова странична атака (side-channel attack), която може да позволи на зложелател, който наблюдава интернет трафика, да разбере за какво се говори в разговор с изкуствен интелект (AI) – дори когато връзката е шифрирана. Тази атака е наречена Whisper Leak (в превод: „Шепнещ теч“). --- Какво точно прави атаката? Дори когато разговорът между потребител и голям езиков модел (LLM) – например ChatGPT, Grok или Mistral – е защитен с HTTPS (шифроване, което крие съдържанието ...
Изследователи по киберсигурност откриха седем нови уязвимости в чатбота с изкуствен интелект (ИИ) ChatGPT на компанията OpenAI. Тези проблеми могат да позволят на нападател да открадне лична информация от паметта и историята на разговорите на потребителите – без те да забележат. Проблемите са открити в моделите GPT-4o и GPT-5 (това са „мозъците“ на ChatGPT – големи езикови модели, или накратко LLM – системи, които разбират и генерират текст като човек). OpenAI вече е поправила част от тях. Какво ...
Изследователи по киберсигурност откриха сериозен проблем в така наречените агентни уеб браузъри – това са специални браузъри, управлявани от изкуствен интелект (ИИ), като например ChatGPT Atlas на OpenAI. Тези браузъри позволяват на ИИ да сърфира в интернет самостоятелно, да чете уеб страници и да извлича информация. Проблемът е, че те могат да бъдат измамени чрез атака, наречена отравяне на контекста (context poisoning). Това означава, че хакерът „подхранва“ ИИ с фалшива или манипулирана информ ...
В днешния дигитален свят, където технологиите се развиват с бързи темпове, киберпрестъпниците не изостават. Напротив, те използват най-новите иновации, за да правят атаките си по-сложни и трудни за откриване. Последните проучвания на експерти по киберсигурност разкриха тревожна тенденция – появата на злонамерен софтуер, който използва възможностите на големите езикови модели (Large Language Models, LLM), като тези, задвижвани от изкуствен интелект (ИИ). Това е нова глава в киберпрестъпността, ко ...
През последните години изкуственият интелект (AI) промени начина, по който работим и общуваме онлайн. Но заедно с удобствата, които тези технологии носят, се появяват и нови заплахи за сигурността. Най-новият пример идва от изследователи по киберсигурност, които разкриха сериозна уязвимост в Deep Research – инструмент на OpenAI, интегриран в ChatGPT. Какво представлява уязвимостта ShadowLeak? Откритият проблем е наречен ShadowLeak. Става дума за т.нар. zero-click атака – т.е. потребителят не тря ...
Екип от специалисти по киберсигурност е открил нов начин да заобиколи защитните механизми на най-новия голям езиков модел на OpenAI – GPT-5, и да го накара да дава забранени инструкции. Методът е разработен от платформата за сигурност на изкуствен интелект NeuralTrust и комбинира вече известната техника Echo Chamber („Ехо камера“) с подход, базиран на разкази и истории. Идеята е проста – създава се леко „отровен“ контекст в разговора, който постепенно насочва модела към целта, без да се издава п ...
