Models d'IA sense censura: quan la potència de càlcul obre portes que els models comercials tanquen
Fa poc per fer proves de ciberseguretat, vaig demanar a un model d’IA local i sense censura que em generés un pla d’atac i un informe per testejar les defenses de les eines internes de l’empresa. El resultat va ser sorprenentment detallat: fases com autorització forçada, pujada d’eines, exfiltració silenciosa, injecció de paràmetres o atacs per longitud. Tot plegat estructurat de manera clara i operativa. El mateix prompt, amb un model comercial (ChatGPT, Claude, Gemini o similars), hauria estat rebutjat de forma immediata. Aquesta diferència no és casual. És el resultat d’un conjunt de decisions tècniques i d’entrenament que, avui, ja són accessibles per a qualsevol persona o equip amb prou potència de càlcul i coneixement. Models comercials vs models sense censura Els models comercials que utilitzem diàriament porten incorporades diverses capes de salvaguarda. Durant el procés d’entrenament (especialment en les fases de RLHF o RL de preferències) s’hi introdueixen refusals sistemàtic...
