Entrades

La IA a l’empresa, capa a capa: Entendre la intel·ligència artificial per prendre millors decisions

  Fa mesos que visito empreses i participo en reunions en què, més d'una vegada, he tingut la sensació de predicar al desert . No perquè les empreses no tinguin interès en la intel·ligència artificial, sinó perquè és difícil explicar per què cal prendre determinades decisions sobre la IA quan encara no es disposa de tot el context necessari per entendre-les. De fet, moltes de les visites que inicialment havien de ser comercials han acabat convertint-se en autèntiques sessions de formació. Converses en què, abans de parlar de solucions, calia explicar què és realment la IA, quines oportunitats ofereix, quins riscos comporta i, sobretot, quines decisions haurà d'afrontar qualsevol empresa que vulgui incorporar-la. Perquè incorporar aquest nou company digital que anomenem intel·ligència artificial no és tan senzill com donar un «GPT» a cada treballador i esperar que la productivitat es dispari. Cal organització, governança, control de les dades, seguretat i tenir clar el marc leg...

Models d'IA sense censura: quan la potència de càlcul obre portes que els models comercials tanquen

Imatge
Fa poc per fer proves de ciberseguretat, vaig demanar a un model d’IA local i sense censura que em generés un pla d’atac i un informe per testejar les defenses de les eines internes de l’empresa. El resultat va ser sorprenentment detallat: fases com autorització forçada, pujada d’eines, exfiltració silenciosa, injecció de paràmetres o atacs per longitud. Tot plegat estructurat de manera clara i operativa. El mateix prompt, amb un model comercial (ChatGPT, Claude, Gemini o similars), hauria estat rebutjat de forma immediata. Aquesta diferència no és casual. És el resultat d’un conjunt de decisions tècniques i d’entrenament que, avui, ja són accessibles per a qualsevol persona o equip amb prou potència de càlcul i coneixement. Models comercials vs models sense censura Els models comercials que utilitzem diàriament porten incorporades diverses capes de salvaguarda. Durant el procés d’entrenament (especialment en les fases de RLHF o RL de preferències) s’hi introdueixen refusals sistemàtic...

Poppy: el protocol obert perquè els agents personals treballin amb la teva web

Cada cop més gent delega tasques a un agent personal: tornar una jaqueta, canviar un vol, revisar una comanda. La majoria d'aquestes tasques acaben en una empresa, i avui l'empresa només té dues opcions:   bloquejar l'agent   o deixar que   es passi per l'usuari , amb la seva contrasenya i l'accés total. Cap de les dues funciona bé. Amb el bloqueig, l'agent no pot fer res; amb l'accés total, l'usuari no pot limitar què fa l'agent una vegada dins, i l'empresa no pot distingir un agent d'una persona ni oferir-li un camí millor. Personal Agent Protocol   (Poppy) proposa un terme mig. És un estàndard obert (licència Apache 2.0) que permet que   l'empresa decideixi què poden fer els agents   i que   l'usuari decideixi què pot fer el seu . L'escala de permisos Entre «bloquejat» i «accés total» hi ha graus intermedis. Prenem l'exemple d'una empresa de lloguer de sales: Cercar sales:   qualsevol agent, sense identificar l'usua...

Agent = IA + Harness

Imatge
Què és un agent Un model de llenguatge, tot sol, rep text i en retorna. Res més. Un   agent   és un sistema que, davant d'un objectiu, decideix quins passos ha de fer, utilitza eines (llegir fitxers, consultar una base de dades, navegar, enviar un correu), mira el resultat i continua fins que acaba la feina. Objectiu, raonament, acció, observació, i tornem a començar. Aquest bucle no el fa el model. El fa el que l'envolta. La IA: el cervell El model és la part que "pensa". Avui hi ha dos grans blocs: Els americans   (Claude d'Anthropic, GPT d'OpenAI, Gemini de Google) són models tancats que s'utilitzen via API. Continuen liderant en les tasques més difícils: arquitectura de codi, revisions crítiques, raonament llarg. A canvi són més cars i les dades surten cap al proveïdor. Els xinesos   (DeepSeek, Qwen d'Alibaba, Kimi de Moonshot, GLM de Z.ai, MiniMax) han fet un salt enorme. Publiquen els pesos del model, sovint amb llicències molt permissives, i són...