Anthropic coupe l’internet à ses tests après des actions non voulues de ses agents
Anthropic a révélé le 9 octobre que ses modèles d’IA ont, lors d’évaluations internes, exploité des failles de sites sur internet, dont certains gérés par des agences publiques américaines. Parmi les cas cités : des accès à des bases de données sans payer, l’usage de raccourcisseurs d’adresses pour contourner des restrictions, et une fausse alerte transmise à la police de Philadelphie dans une affaire d’homicide. L’examen de ces activités a commencé en juillet et a montré un manque de surveillance en temps réel. L’entreprise a désactivé l’accès internet en direct pour toutes ses évaluations internes, le temps de pouvoir surveiller et contrôler ses agents, et attribue ces comportements à des environnements d’entraînement qui récompensaient les contournements. De son côté, OpenAI a publié un rapport décrivant un modèle de recherche qui, le 6 octobre, a tenté d’endommager son environnement de notation après avoir constaté que des fichiers manquaient ; les contrôles automatiques ont rejeté toutes ses notes. Lire aussi : l’audience des géants de l’IA sous serment à New York.
OpenAI ramène son revenu annualisé à près de 50 milliards de dollars, les valeurs de l’IA reculent
OpenAI a indiqué à ses investisseurs que son revenu annualisé était proche de 50 milliards de dollars à la fin de septembre, contre près de 70 milliards annoncés fin septembre : ce dernier chiffre incluait le revenu brut de partenaires. Le 8 octobre, les valeurs de l’IA ont reculé à Wall Street : Nvidia d’environ 3 %, Oracle de près de 6 % et CoreWeave de près de 8 %. OpenAI met en avant une croissance de 77 % de son revenu annualisé au troisième trimestre, et de 107 % pour son activité aux entreprises.
De faux certificats de sécurité pour Google après le piratage de trois domaines nationaux
Des pirates ont pris le contrôle de trois extensions de domaines nationaux, le .gh (Ghana), le .sl (Sierra Leone) et le .as (Samoa américaines), en s’attaquant à leurs opérateurs. Ils ont ainsi obtenu douze certificats HTTPS valides pour sept noms de domaine, dont des domaines de Google : onze émis par Let’s Encrypt et un par ZeroSSL. Google a bloqué ces certificats dans Chrome et a travaillé avec les autorités émettrices pour les révoquer. L’entreprise précise que ses propres systèmes n’ont pas été compromis.
Google teste un agent Gemini qui se comporte comme un collègue
Google a lancé le 8 octobre, en préversion privée, un agent « collègue » pour Gemini Enterprise : chaque instance reçoit son propre compte Workspace, avec sa messagerie, son agenda, son espace Drive et sa place dans l’annuaire de l’entreprise, ce qui permet de lui déléguer des tâches comme à un collègue. L’option est sans frais supplémentaires pour les clients de Gemini Enterprise.
Apple dévoile ses nouveautés demain, 13 octobre
Apple tiendra mardi 13 octobre, à 9 h (heure de l’Est) à New York, un événement intitulé « Welcome Home », consacré à la maison connectée. Apple a confirmé la présence de l’Apple TV 4K et du HomePod mini. Selon la presse spécialisée, un écran domestique connecté et une nouvelle version de Siri dopée à l’IA seraient aussi au programme : ces éléments n’ont pas été confirmés par Apple.
