В днешния дигитален свят, където технологиите се развиват с бързи темпове, киберпрестъпниците не изостават. Напротив, те използват най-новите иновации, за да правят атаките си по-сложни и трудни за откриване. Последните проучвания на експерти по киберсигурност разкриха тревожна тенденция – появата на злонамерен софтуер, който използва възможностите на големите езикови модели (Large Language Models, LLM), като тези, задвижвани от изкуствен интелект (ИИ). Това е нова глава в киберпрестъпността, ко ...
През последните години изкуственият интелект (AI) промени начина, по който работим и общуваме онлайн. Но заедно с удобствата, които тези технологии носят, се появяват и нови заплахи за сигурността. Най-новият пример идва от изследователи по киберсигурност, които разкриха сериозна уязвимост в Deep Research – инструмент на OpenAI, интегриран в ChatGPT. Какво представлява уязвимостта ShadowLeak? Откритият проблем е наречен ShadowLeak. Става дума за т.нар. zero-click атака – т.е. потребителят не тря ...
Екип от специалисти по киберсигурност е открил нов начин да заобиколи защитните механизми на най-новия голям езиков модел на OpenAI – GPT-5, и да го накара да дава забранени инструкции. Методът е разработен от платформата за сигурност на изкуствен интелект NeuralTrust и комбинира вече известната техника Echo Chamber („Ехо камера“) с подход, базиран на разкази и истории. Идеята е проста – създава се леко „отровен“ контекст в разговора, който постепенно насочва модела към целта, без да се издава п ...
