Vérifier et protéger
Contrôler ce que la machine répond, protéger les données qu'on lui donne, et savoir où elle se trompe.
outil 09:27 · il y a 2 j Pirate Face met les modèles ouverts en torrents, sans en héberger un seul
Un site ouvert cet été propose de rendre les poids ouverts impossibles à retirer : il indexe les modèles de Hugging Face, garde leurs empreintes SHA-256 et publie des aimants BitTorrent dont son propre annonceur répond à l'échange depuis le 30 septembre. Trois mois après le départ, 5 094 comptes et 1 150 pseudos vérifiés, 669 000 modèles annoncés au catalogue, mais le modèle retiré de Hugging Face qui l'a mis en avant n'a encore ni empreinte conservée ni source.
note 09:27 · il y a 2 j Extraire le raisonnement protégé d'un modèle sans casser un chiffrement
OpenAI dit avoir déjoué en juillet une campagne concertée d'extraction du raisonnement protégé de ses modèles. Les opérateurs ne forcent rien : ils font recopier le raisonnement chiffré d'une conversation dans une autre, où un modèle est prié de le déchiffrer et de le transcrire. Seize mille requêtes en deux jours, plus de 15 000 comptes écartés en quatre semaines, et une attribution qui pointe des personnes liées à l'éditeur de Kimi.
papier 09:52 · il y a 3 j GLM-5.3 franchit le seuil de l'exploit construit seul
Anthropic a testé GLM-5.3, le modèle ouvert de Zhipu AI, sur ses propres bancs d'exploitation : il trouve des vulnérabilités inédites et les enchaîne en attaques qui fonctionnent, au niveau où seuls les modèles les mieux gardés se tenaient il y a cinq mois. Débrider le modèle demande une opération de quelques milliers de dollars.