San Francisco Frontiers - Croissance météorique et risques en pagaille, Anthropic lève le voile avant son entrée en Bourse

Le groupe de San Francisco, créateur du chatbot Claude, a réalisé au premier semestre un chiffre d'affaires de 16,3 milliards de dollars, contre 4,6 milliards pour l'ensemble de l'année 2025.

Jamais une société n'avait atteint de tels revenus en seulement cinq ans d'existence.

Le document ne mentionne pas de valorisation ou de date d'introduction à Wall Street, plusieurs médias faisant état d'une entrée en novembre.

Toujours selon des médias, des investisseurs auraient demandé à la start-up de ramener sa valorisation de 2.000 à 1.500 milliards de dollars avant l'entrée en Bourse.

Selon les données publiées lundi par l'autorité américaine des marchés, la SEC, Anthropic était encore largement déficitaire au premier semestre.

Même en ôtant un effet comptable lié à la valorisation des actions du groupe, qui a plombé les comptes de 72 milliards de dollars, la société affichait toujours des pertes de 8,4 milliards.

A la différence de certains de ses concurrents, comme Google, Meta ou même SpaceX (qui contrôle xAI), Anthropic ne peut compter sur un flux de trésorerie provenant d'autres activités.

Pour s'assurer de disposer de capacités de calcul suffisantes pour développer ses modèles d'IA, l'entreprise a pris des engagements colossaux avec des fournisseurs d'informatique à distance (cloud).

Selon le document, ils étaient, fin juin, de 265 milliards de dollars étalés sur 20 ans, ce à quoi s'ajoutent des contrats qui ne prévoient pas de montant minimal.

Pour Jacob Bourne, analyste du cabinet Emarketer, le document "révèle la croissance explosive" d'Anthropic, mais aussi "les coûts exorbitants du développement de l'IA de pointe".

- "Actions dangereuses" -

Anthropic consacre près de 100 des 335 pages du document (hors annexes) aux risques auxquels est exposée la société, notamment en ce qui concerne l'IA.

Cette section du dossier d'introduction était très attendue, après une série d'incidents rapportés depuis juillet par Anthropic mais aussi OpenAI, Google ou Meta.

A aucun moment le groupe ne reprend à son compte les avertissements, lancés par de nombreux employés ou ex-salariés de grands acteurs de l'IA quant au risque que présenterait cette technologie pour l'humanité.

Anthropic prévient que ses systèmes de contrôle et garde-fous visant à empêcher l'utilisation malveillante de ses modèles ont déjà "failli, été mal configurés ou désactivés par erreur", ce qui "pourrait arriver de nouveau à l'avenir sans que nous ne le détections à temps".

"Nos modèles d'IA pourraient aussi provoquer eux-mêmes des dommages", notamment "en effectuant des actions dangereuses qu'aucun utilisateur n'a demandées", avertit Anthropic.

"Ces risques pourraient augmenter", poursuit le groupe, "dans la mesure où nos modèles deviennent de plus en plus puissants et se voient allouer davantage d'autonomie" par le biais des agents IA, à même d'effectuer des tâches de façon autonome.

Le principal rival d'OpenAI cite aussi les risques associés à l'utilisation de plus en plus intensive de l'IA pour mettre au point les nouveaux modèles.

De l'avis général, la qualité du code produit par IA approche désormais de celle des meilleurs programmeurs.

En juin, Anthropic a expliqué qu'une fois ce seuil formellement franchi, "les humains arrêteront complètement d'écrire du code et ne ferons plus que le contrôler" une fois rédigé.

Ce nouveau fonctionnement, appelé amélioration récursive autonome (RSI), implique que "des failles, des biais ou des erreurs présentes dans les modèles actuels pourraient se propager dans les prochaines versions" et s'aggraver au fil des itérations, met en garde Anthropic.

Par ailleurs, la RSI présente le risque de voir les modèles "améliorer leurs possibilités plus rapidement que notre capacité à (mettre en place) les mesures de sécurité adaptées", ajoute la société.

Pour parer à cette éventualité, Anthropic se réserve la possibilité de repousser le lancement d'un modèle ou d'en limiter la disponibilité, comme cela a été le cas en avril avec Mythos, jugé trop dangereux en matière de cybersécurité.

En septembre, le patron d'Anthropic Dario Amodei avait lancé un appel à ralentir le développement de l'IA, auquel s'était ralliés OpenAI, Google et SpaceX.

D.Brown--SFF