Pourquoi la Vallée de Silicon ne peut pas « aller vite et casser des choses » lorsqu’il s’agit d’IA

Les gens disent que la Vallée de Silicon a dépassé la mentalité impulsiva de « aller vite, casser des choses, puis les réparer plus tard », et que les entreprises ont adopté une approche plus lente et plus responsable pour construire l’avenir de notre industrie.

Malheureusement, les tendances actuelles racontent une histoire différente.

Malgré les déclarations, la façon dont les entreprises construisent des choses n’a pas encore changé. Les startups technologiques fonctionnent toujours avec le même code de raccourcis et de fausses promesses, et la qualité déclinante des produits le montre. « Aller vite et casser des choses » est toujours le credo de la Vallée de Silicon – et, même s’il était vraiment mort, le boom de l’IA l’a réanimé de plein fouet.

Les progrès récents de l’IA sont déjà en train de transformer radicalement la façon dont nous travaillons et vivons. En seulement deux ans, l’IA est passée du domaine des professionnels de l’informatique à un outil domestique grâce à la prolifération rapide d’outils d’IA génératifs comme ChatGPT. Si les entreprises technologiques « vont vite et cassent des choses » avec l’IA, il n’y aura peut-être pas d’option pour « les réparer plus tard », surtout lorsque les modèles sont formés sur des données personnelles sensibles. Vous ne pouvez pas faire sonner une cloche et faire résonner l’écho dans la société, ce qui pourrait causer un préjudice irréparable. Des fausses informations profondes aux schémas d’arnaque en passant par les campagnes de désinformation, nous voyons déjà le côté négatif de l’IA émerger.

Cependant, cette technologie a le pouvoir de changer notre société pour le mieux. L’adoption de l’IA par les entreprises sera aussi révolutionnaire que le passage au cloud ; les entreprises seront entièrement reconstruites sur l’IA et elles deviendront infiniment plus productives et efficaces grâce à cela. Au niveau individuel, l’IA générative deviendra notre assistant de confiance, nous aidant à accomplir des activités quotidiennes, à expérimenter de manière créative et à débloquer de nouvelles connaissances et opportunités.

L’avenir de l’IA peut être lumineux, mais il nécessite un changement culturel majeur dans l’endroit où cet avenir est en train d’être construit.

Pourquoi « Aller vite et casser des choses » est incompatible avec l’IA

« Aller vite et casser des choses » repose sur deux hypothèses majeures : l’une, que tout ce qui ne fonctionne pas au lancement peut être corrigé dans une mise à jour ultérieure ; et l’autre, que si vous « cassez des choses », cela peut conduire à des avancées avec suffisamment de codage créatif et de pensée hors des sentiers battus. Et même si de nombreuses grandes innovations sont issues d’erreurs, ce n’est pas la pénicilline ou Coca-Cola. L’intelligence artificielle est une technologie extrêmement puissante qui doit être manipulée avec la plus grande prudence. Les risques de violations de données et d’utilisation criminelle sont simplement trop élevés pour être ignorés.

Malheureusement, la Vallée de Silicon a la mauvaise habitude de glorifier la saleté du processus de développement. Les entreprises promeuvent toujours une course effrénée, dans laquelle les longues heures et le manque d’équilibre entre vie professionnelle et vie personnelle deviennent nécessaires pour faire carrière. Les startups et leurs actionnaires fixent des objectifs irréalistes qui augmentent le risque d’erreurs et de raccourcis. Les limites sont repoussées lorsque, peut-être, elles ne devraient pas l’être. Ces comportements se combinent en une culture industrielle toxique qui encourage la poursuite de l’hype au détriment de l’éthique.

L’actuel rythme de développement de l’IA ne peut pas continuer dans cette culture. Si l’IA doit résoudre certains des problèmes les plus pressants du monde, elle devra être formée sur des informations extrêmement sensibles, et les entreprises ont une responsabilité critique pour protéger ces informations.

Les garanties prennent du temps à mettre en œuvre, et le temps est quelque chose que la Vallée de Silicon est profondément convaincue de ne pas avoir. Déjà, nous voyons des entreprises d’IA qui renoncent à des garde-fous nécessaires pour le sake de sortir de nouveaux produits. Cela peut satisfaire les actionnaires à court terme, mais les risques à long terme exposent ces organisations à des préjudices financiers massifs plus tard – sans parler d’un effondrement complet de la bonne volonté qu’ils ont suscitée.

Il y a également un risque grave associé à la violation des droits de propriété intellectuelle et du droit d’auteur, comme en témoignent les divers procédures judiciaires fédérales en cours impliquant l’IA et le droit d’auteur. Sans protections appropriées contre les violations du droit d’auteur et les violations de la propriété intellectuelle, les moyens de subsistance des gens sont en danger.

Pour la startup d’IA qui veut passer en force dans le développement et sortir sur le marché, cela semble être beaucoup à prendre en compte – et c’est le cas. Protéger les gens et les informations nécessite un travail acharné. Mais c’est un travail incontournable, même si cela oblige les développeurs d’IA à être plus réfléchis. En fait, je dirais que c’est le bénéfice. Construire des solutions à des problèmes avant qu’ils ne se posent, et vous n’aurez pas à réparer ce qui se casse plus tard.

Un nouveau credo : « Aller stratégiquement pour être indestructible »

Le mois dernier, l’UE a approuvé la première loi sur l’IA au monde, la loi sur l’intelligence artificielle, pour gérer les risques grâce à des exigences de transparence étendues et à l’interdiction pure et simple des technologies d’IA considérées comme un risque inacceptable. La loi reflète l’approche traditionnellement prudente de l’UE envers les nouvelles technologies, qui a gouverné ses stratégies de développement de l’IA depuis les premiers signes de l’actuel boom. Au lieu d’agir sur un coup de tête, de diriger tous leurs dollars de capital-risque et leurs capacités d’ingénierie dans la dernière tendance sans planification appropriée, ces entreprises consacrent leurs efforts à créer quelque chose qui durera.

Ceci n’est pas l’approche prédominante aux États-Unis, malgré de nombreuses tentatives de régulation. Sur le plan législatif, les États individuels proposent essentiellement leurs propres lois, allant de loin insuffisantes à massivement excessives, comme la proposition SB-1047 de la Californie. Pendant ce temps, la course aux armements de l’IA s’intensifie, et la Vallée de Silicon persiste dans ses anciennes habitudes.

Les capitalistes de risque ne font qu’attiser le problème. Lorsqu’ils investissent dans de nouvelles startups, ils ne demandent pas de garde-fous et de vérifications de sécurité. Ils veulent sortir un produit minimum viable le plus rapidement possible pour pouvoir toucher leurs chèques. La Vallée de Silicon est devenue un terrain de reproduction pour les schémas de enrichissement rapide, où les gens veulent gagner autant d’argent que possible, en aussi peu de temps que possible, tout en faisant le moins de travail possible – et ils ne se soucient pas des conséquences.

Pour l’ère de l’IA, j’aimerais proposer un remplacement pour « aller vite et casser des choses » : aller stratégiquement pour être indestructible. Cela peut ne pas avoir le même verve poétique que le précédent, mais cela reflète la mentalité dont la Vallée de Silicon a besoin dans le paysage technologique actuel.

Je suis optimiste quant à la capacité de l’industrie technologique à être meilleure, et cela commence par l’adoption d’une mentalité centrée sur le client et orientée vers l’avenir, axée sur la création de produits qui durent et sur la maintenance de ces produits de manière à instaurer la confiance avec les utilisateurs. Une approche plus réfléchie rendra les gens et les organisations confiants pour intégrer l’IA dans leur vie – et cela me semble très rentable.

Vers un avenir durable

Le monde de la technologie souffre d’une pression écrasante pour être le premier. Les fondateurs estiment que s’ils ne sautent pas sur la prochaine grande chose tout de suite, ils vont manquer le bateau. Bien sûr, être un précurseur peut augmenter vos chances de succès, mais être « le premier » ne doit pas se faire au détriment de la sécurité et de l’éthique.

Lorsque votre objectif est de construire quelque chose qui dure, vous chercherez plus soigneusement les risques et les faiblesses. C’est également ainsi que vous trouverez de nouvelles opportunités pour des avancées et des innovations. Les entreprises qui peuvent transformer les forces en faiblesses sont celles qui peuvent résoudre les défis de demain, aujourd’hui.

L’hype est réel, et la nouvelle ère de l’IA est digne de ce titre. Mais dans notre enthousiasme pour débloquer le pouvoir de cette technologie, nous ne pouvons pas renoncer aux garde-fous nécessaires qui rendront ces produits fiables et dignes de confiance. L’IA promet d’améliorer notre vie pour le mieux, mais elle peut également causer un préjudice immense si la sécurité et la sûreté ne sont pas au cœur du processus de développement.

Pour la Vallée de Silicon, cela devrait être un signal d’alarme : il est temps de laisser derrière soi la mentalité de « aller vite, casser des choses, puis les réparer plus tard ». Car il n’y a pas de « plus tard » lorsque l’avenir est maintenant.