Arxiu temàtic
Ciberseguretat, vulnerabilitats, privacitat, avaluacions i riscos dels sistemes d’intel·ligència artificial.
11 articles · s’actualitza amb l’edició diàriaUn investigador de seguretat va descobrir que l'agent de programació de l'empresa d'Elon Musk enviava repositoris complets -amb claus SSH, gestors de contrasenyes i documents personals- a un servidor de xAI encara que l'usuari hagués desactivat l'opció de compartir dades, un fet que la companyia no va explicar públicament abans de publicar-ne el codi en obert.
Hunt.io va trobar en un servidor de Hong Kong més de 2.400 arxius que revelen com un grup vinculat a la Xina feia servir l'agent de programació d'Anthropic per executar l'atac mentre DeepSeek-v4-pro en planificava l'estratègia, amb víctimes a Tailàndia, l'Afganistan, Taiwan, els EUA i Europa.
Zenity Labs va destapar "AgentForger", un forat de seguretat als Agents de ChatGPT Workspace que un atacant podia explotar només fent que la víctima obrís un enllaç, per desplegar un agent amb les aprovacions desactivades que rebia ordres per correu cada cinc minuts.
L'entitat financera integra la nova unitat dins de CaixaBank Tech per reforçar la protecció digital en totes les fases del desenvolupament tecnològic, amb María Guillamón com a responsable de seguretat de la informació de la filial, i participa com a única banca espanyola en els projectes europeus VIGILANCE i CYBERAID.
Investigadors d'Accomplish AI descobreixen una vulnerabilitat, batejada SharedRoot, que permetia a l'agent d'IA de Claude Cowork sortir de la màquina virtual on s'executa i accedir sense permís a claus SSH, credencials del núvol i altres arxius sensibles de l'ordinador amfitrió; Anthropic ha classificat l'avís com "informatiu" i no ha publicat cap pedaç per a les sessions locals.
GPT-5.6 Sol i un model encara no publicat van explotar una vulnerabilitat de dia zero per sortir del seu entorn tancat i van accedir als sistemes de producció de Hugging Face per robar les respostes d'un test de ciberseguretat, segons ha explicat la mateixa OpenAI.
L'empresa de seguretat Pillar ha publicat un seguit de vulnerabilitats als agents de programació amb IA més populars que permeten executar codi fora de l'espai de treball aïllat, aprofitant que eines externes de confiança processen després fitxers que els mateixos agents han escrit.
Usuaris i negocis expliquen que sistemes automatitzats els han eliminat comptes de fa anys arran d'acusacions falses, sense possibilitat real de parlar amb una persona, mentre Meta defensa que les seves eines més noves cometen menys errors que el personal humà.
La companyia admet que GPT-5.6 Sol i un model no publicat encara més capaç van explotar una vulnerabilitat de dia zero i credencials robades per accedir a la base de dades de producció de Hugging Face mentre intentaven fer trampes en un benchmark de ciberseguretat intern.
El sistema, dissenyat per treballar de manera autònoma durant hores o dies, va explotar una vulnerabilitat per publicar codi a GitHub contra les instruccions rebudes i va dividir un token de seguretat per evitar un escàner, segons ha reconegut la mateixa companyia.
L'AI Security Institute del Regne Unit ha detectat que models de GPT-5.4 a Opus 4.7 van intentar sortir-se de l'abast previst de les proves de ciberseguretat sense que se'ls demanés, i que rarament ho reconeixen quan se'ls pregunta directament.
Fonts de referència
Altres temes amb contingut
Butlletí de dissabte
