Le rôle de l’IA dans la curation de la mémoire, de l’identité et de l’héritage

L’humanité prend maintenant plus de photos toutes les deux minutes que celles qui ont été capturées au cours de tout le 19e siècle. Des milliards sont créés quotidiennement. Pour de nombreuses personnes, un seul smartphone contient 10 000, 20 000, parfois 50 000 images, et ce nombre ne cesse de croître. Pour une machine, il s’agit d’un ensemble d’images d’une échelle extraordinaire. Pour un humain, c’est tout à fait autre chose.

C’est un enregistrement des nouveaux arrivants et des anniversaires de naissance, des visites à l’hôpital et des vacances, des mariages et des funérailles. Il contient la dernière photographie d’un grand-parent, la première image d’un enfant nouveau-né, la photo floue prise quelques instants avant un accident. Ces images ne sont pas simplement des fichiers à classer, mais des fragments d’identité personnelle.

Pour ceux d’entre nous qui construisent une IA qui travaille directement avec les bibliothèques de photos des gens, cette échelle crée un défi très particulier. Nous ne construisons plus d’outils qui gèrent des bibliothèques de médias. Nous concevons des systèmes qui influencent la façon dont les gens revivent et se souviennent de leur vie. Et ce changement, combiné à l’échelle de données sans précédent, exige un modèle de confiance fondamentalement différent.

Le contenu sensible fait partie de la vie ordinaire

La technologie de vision par ordinateur est souvent utilisée pour détecter les visages, les sourires, les monuments et les activités. Lorsque nous appliquons ces techniques aux bibliothèques de photos personnelles, elles peuvent regrouper des photos similaires, suggérer des moments forts et générer des « mémoires » à revoir et à réfléchir.

Les bibliothèques de photos personnelles deviennent de plus en plus similaires à des journaux intimes. Beaucoup d’entre nous tendent instinctivement la main vers notre téléphone pour capturer les moments de la vie quotidienne, sachant qu’ils seront stockés – même si nous n’y revenons jamais. Dans ce sens, nos bibliothèques de photos deviennent des enregistrements non filtrés de la vie telle qu’elle se déroule, contenant des moments qui sont joyeux, douloureux ou ordinaires.

À une petite échelle, l’organisation automatique des photos semble simple et utile. Mais les bibliothèques personnelles contiennent souvent désormais des dizaines de milliers d’images. Dans la pratique, des systèmes comme ceux-ci doivent prendre des milliers de petites décisions au nom d’un utilisateur : quels visages privilégier, quelles photos représentent le mieux une année, et quels moments méritent d’être ressurgis. À cette échelle, même un taux d’erreur minime devient émotionnellement significatif. Un taux de fausse classification de 1 % sur une bibliothèque de 20 000 photos pourrait entraîner des centaines d’images affichées dans le mauvais contexte ou mal interprétées.

Une chose que l’on apprend rapidement lorsqu’on travaille avec des bibliothèques de photos réelles, c’est à quel point les moments sensibles apparaissent souvent aux côtés de ceux de la vie quotidienne. Les hôpitaux, les funérailles, les moments de détresse – aux côtés de choix de produits qui favorisent la retenue. Mais tout aussi important est de reconnaître les limites de l’interprétation automatique.

Comprendre parfaitement le sens qu’une image porte pour un individu spécifique est rarement possible. Le rôle de l’IA n’est pas de déterminer le sens au nom de quelqu’un, mais d’aider à faire surface des moments que les gens peuvent vouloir revoir et réfléchir de manière appropriée pour eux. Dans un monde où les outils numériques façonnent de plus en plus notre vie, les albums de photos restent profondément personnels.

Le lieu où se déroule le traitement est important

Il y a également une question structurelle sur la façon dont les images sont traitées et où elles le sont. Les systèmes d’IA basés sur le cloud agrègent et analysent de vastes quantités de données à distance – un modèle qui a permis des avancées extraordinaires en termes de capacités.

Lorsqu’il s’agit de bibliothèques de photos privées, cependant, la sensibilité émotionnelle est beaucoup plus grande. Les images d’enfants, les moments intimes de la famille et même les expériences de fin de vie sont parmi les enregistrements les plus personnels que les gens possèdent. Quiconque construit une technologie qui interagit avec ce type de données réalise rapidement que les décisions d’architecture ne sont pas purement techniques. Envoyer des images à des serveurs distants pour analyse peut sembler intrusif, même lorsque des garanties solides existent.

Les progrès de l’équipement mobile rendent de plus en plus possible le traitement de grandes bibliothèques de photos directement sur l’appareil. Cela permet une compréhension sophistiquée des images sans exporter l’ensemble des collections vers le cloud. Dans ce contexte, l’architecture technique devient un reflet des valeurs. La décision sur le lieu où se déroule le traitement peut directement influencer le contrôle que les individus conservent sur leurs propres mémoires.

L’éthique de la mémoire automatisée

Lorsque l’IA trie les photos, elle influence la façon dont les gens se souviennent de leur vie. Un système qui sélectionne les « meilleures » images d’une année décide implicitement quels moments sont les plus importants. Une fonctionnalité qui met en évidence certains visages plus fréquemment peut subtilement façonner la façon dont les relations sont visuellement priorisées.

Contrairement aux erreurs dans l’optimisation de la publicité ou la prévision de la logistique, les erreurs dans la curation de la mémoire sont personnelles. Une réapparition malencontreuse d’une image peut réveiller inopinément la douleur. Une relation importante pourrait être sous-représentée simplement parce qu’un algorithme a échoué à reconnaître son importance. Au fil du temps, ces sélections automatisées peuvent influencer discrètement la façon dont les gens racontent leur propre vie.

Cela soulève des questions difficiles. Un algorithme devrait-il décider quelles photos représentent le mieux quelqu’un qui est décédé ? Devrait-il supprimer les images qu’il considère comme étant dérangeantes, ou laisser ce choix entièrement à l’utilisateur ? Comment devrait-il se comporter lorsqu’il ne peut pas déterminer avec confiance si une scène est célébratoire ou solennelle ?

La conception éthique dans cet espace dépend de l’humilité. Les systèmes devraient être transparents quant à quando l’IA effectue des sélections et faciliter la révision, l’édition et la substitution des choix automatisés. Les seuils de confiance pour la mise en surface de contenu potentiellement sensible devraient être fixés avec une prudence particulière.

La confiance en tant qu’exigence humaine

Les débats publics autour de l’éthique de l’IA se concentrent souvent sur la désinformation, les préjugés ou la formation de modèles à grande échelle. Ces conversations sont bien sûr nécessaires et importantes. Mais au-delà des titres, il y a une autre dimension, moins visible, de l’éthique de l’IA qui se joue dans les foyers familiaux chaque jour.

Un petit nombre d’équipes construisent actuellement des systèmes d’IA qui trient des bibliothèques de photos personnelles à l’échelle mondiale. Nous prenons des décisions qui influencent la façon dont des millions d’histoires personnelles sont organisées et mémorisées.

Lorsqu’une personne ouvre sa bibliothèque de photos, elle interagit avec son propre récit. Si les systèmes d’IA traitent ce récit de manière négligente, l’impact peut être intensément personnel. Une notification malencontreuse ou un montage automatique insensible peut rouvrir des blessures qui ont mis des années à guérir.

Travailler dans cet espace rend cette responsabilité exceptionnellement tangible. Concevoir l’IA pour la photographie personnelle nécessite donc une mentalité différente – en particulier à mesure que l’échelle de la prise de photos continue de croître. La sensibilité émotionnelle ne peut pas être ajoutée après le déploiement, et la confidentialité ne peut pas être traitée comme un paramètre de fond. Ces considérations doivent façonner le système dès le départ.

Alors que les capacités de l’IA continuent de s’étendre, la tentation sera de automatiser davantage notre vie numérique. Dans le domaine de la photo personnelle, cependant, le progrès devrait être mesuré différemment. Plutôt que l’efficacité ou l’optimisation, le succès réside dans la construction de systèmes qui reconnaissent le poids émotionnel porté par les images qu’ils touchent.

Nos photos documentent qui nous sommes et qui nous avons été. Tout IA qui leur est confiée doit reconnaître qu’elle opère dans l’un des espaces les plus humains que la technologie peut pénétrer.