Le rôle de l’IA dans la curation de la mémoire, de l’identité et de l’héritage

L’humanité prend maintenant plus de photos toutes les deux minutes que celles qui ont été prises au cours du 19e siècle entier. Des milliards sont créés quotidiennement. Pour de nombreuses personnes, un seul smartphone contient 10 000, 20 000, parfois 50 000 images, et ce nombre ne cesse de croître. Pour une machine, il s’agit d’un ensemble d’images d’une échelle extraordinaire. Pour un humain, c’est tout à fait autre chose.

C’est un enregistrement des nouveaux arrivants et des anniversaires de naissance, des visites à l’hôpital et des vacances, des mariages et des funérailles. Il contient la dernière photographie d’un grand-parent, la première image d’un enfant nouveau-né, la photo floue prise quelques instants avant un accident. Ces images ne sont pas simplement des fichiers à classer, mais des fragments d’identité personnelle.

Pour ceux d’entre nous qui construisent des IA qui travaillent directement avec les bibliothèques photo des gens, cette échelle crée un défi très particulier. Nous ne construisons plus d’outils qui gèrent des bibliothèques de médias. Nous concevons des systèmes qui influencent la façon dont les gens revisitent et se souviennent de leur vie. Et ce changement, combiné à l’échelle de données sans précédent, exige un modèle de confiance fondamentalement différent.

Le contenu sensible fait partie de la vie ordinaire

La technologie de vision par ordinateur est souvent utilisée pour détecter les visages, les sourires, les monuments et les activités. Lorsque nous appliquons ces techniques aux bibliothèques photo personnelles, elles peuvent regrouper des photos similaires, suggérer des moments forts et générer des « mémoires » à revisiter et à réfléchir.

Les bibliothèques photo personnelles deviennent de plus en plus similaires à des journaux intimes. Beaucoup d’entre nous tendent instinctivement la main vers notre téléphone pour capturer les moments de la vie quotidienne, sachant qu’ils seront stockés – même si nous n’y retournons jamais. Dans ce sens, nos bibliothèques photo deviennent des enregistrements non filtrés de la vie telle qu’elle se déroule, contenant des moments qui sont joyeux, douloureux ou banals.

À petite échelle, l’organisation automatique de photos semble simple et utile. Mais les bibliothèques personnelles contiennent souvent maintenant des dizaines de milliers d’images. En pratique, des systèmes comme ceux-ci doivent prendre des milliers de petites décisions au nom de l’utilisateur : quels visages privilégier, quelles photos représentent le mieux une année, et quels moments méritent d’être ressurgis. À cette échelle, même un taux d’erreur minime devient significatif sur le plan émotionnel. Un taux de fausse classification de 1 % sur une bibliothèque de 20 000 photos pourrait entraîner des centaines d’images ressurgissant dans le mauvais contexte ou mal interprétées.

Une chose que l’on apprend rapidement lorsqu’on travaille avec de vraies bibliothèques photo, c’est à quel point les moments sensibles apparaissent souvent aux côtés des moments de la vie quotidienne. Les hôpitaux, les funérailles, les moments de détresse – aux côtés de choix de produits qui favorisent la retenue. Mais tout aussi important est la reconnaissance des limites de l’interprétation automatisée.

Comprendre parfaitement le sens qu’une image a pour un individu en particulier est rarement possible. Le rôle de l’IA n’est pas de déterminer le sens au nom de quelqu’un, mais d’aider à faire ressurgir les moments que les gens pourraient vouloir revisiter et réfléchir de manière qui leur semble appropriée. Dans un monde où les outils numériques façonnent de plus en plus la façon dont nous organisons notre vie, les albums photo restent profondément personnels.

L’endroit où le traitement a lieu compte

Il y a également une question structurelle sur la façon dont les images sont traitées et où elles le sont. Les systèmes d’IA basés sur le cloud agrègent et analysent de vastes quantités de données à distance – un modèle qui a permis des avancées extraordinaires en termes de capacités.

Lorsqu’on traite de bibliothèques photo privées, cependant, la sensibilité émotionnelle est bien plus grande. Les images d’enfants, les moments intimes de la famille et même les expériences de fin de vie sont parmi les enregistrements les plus personnels que les gens possèdent. Quiconque construit de la technologie qui interagit avec ce type de données réalise rapidement que les décisions d’architecture ne sont pas purement techniques. Envoyer des images à des serveurs distants pour analyse peut sembler intrusif, même lorsque des garanties solides existent.

Les progrès du matériel mobile rendent de plus en plus possible le traitement de grandes bibliothèques photo directement sur l’appareil. Cela permet une compréhension sophistiquée des images sans exporter l’ensemble des collections vers le cloud. Dans ce contexte, l’architecture technique devient un reflet des valeurs. La décision sur l’endroit où le traitement a lieu peut directement influencer le contrôle que les individus conservent sur leurs propres mémoires.

L’éthique de la mémoire automatisée

Lorsque l’IA trie les photos, elle influence la façon dont les gens se souviennent de leur vie. Un système qui sélectionne les « meilleures photos de l’année » décide implicitement quels moments comptent le plus. Une fonctionnalité qui met en évidence certains visages plus fréquemment peut subtilement façonner la façon dont les relations sont visuellement privilégiées.

Contrairement aux erreurs dans l’optimisation de la publicité ou la prévision logistique, les erreurs dans la curation de la mémoire sont personnelles. Une résurgence malencontreuse d’une image peut raviver inopinément la douleur. Une relation significative peut être sous-représentée simplement parce qu’un algorithme a échoué à reconnaître son importance. Au fil du temps, ces sélections automatisées peuvent influencer discrètement la façon dont les gens racontent leur propre vie.

Cela soulève des questions difficiles. Un algorithme devrait-il décider quelles photos représentent le mieux quelqu’un qui est décédé ? Devrait-il supprimer les images qu’il considère comme dérangeantes ou laisser ce choix entièrement à l’utilisateur ? Comment devrait-il se comporter lorsqu’il ne peut pas déterminer avec certitude si une scène est célébratoire ou solennelle ?

La conception éthique dans cet espace dépend de l’humilité. Les systèmes doivent être transparents quant au moment où l’IA prend des décisions et faciliter la révision, l’édition et la substitution des choix automatisés. Les seuils de confiance pour la mise en surface de contenu potentiellement sensible doivent être établis avec une prudence particulière.

La confiance en tant qu’exigence humaine

Les débats publics sur l’éthique de l’IA se concentrent souvent sur la désinformation, les préjugés ou la formation de grands modèles. Ces conversations sont bien sûr nécessaires et importantes. Mais au-delà des gros titres, il y a une autre dimension, moins visible, de l’éthique de l’IA qui se joue dans les foyers familiaux chaque jour.

Seules quelques équipes sont actuellement en train de construire des systèmes d’IA qui trient les bibliothèques photo personnelles à l’échelle mondiale. Nous prenons des décisions qui influencent la façon dont des millions d’histoires personnelles sont organisées et mémorisées.

Lorsqu’une personne ouvre sa bibliothèque photo, elle interagit avec son propre récit. Si les systèmes d’IA traitent ce récit de manière négligente, l’impact peut être intense sur le plan personnel. Une notification malencontreuse ou un montage automatique insensible peut rouvrir des blessures qui ont mis des années à guérir.

Travailler dans cet espace rend cette responsabilité particulièrement tangible. La conception d’IA pour la photographie personnelle nécessite donc une mentalité différente – surtout à mesure que l’échelle de la prise de photos continue de croître. La sensibilité émotionnelle ne peut pas être ajoutée après le déploiement, et la vie privée ne peut pas être traitée comme un paramètre de fond. Ces considérations doivent façonner le système dès le départ.

À mesure que les capacités de l’IA continuent de s’étendre, la tentation sera de rationaliser davantage notre vie numérique. Dans le domaine de la photo personnelle, cependant, le progrès doit être mesuré différemment. Plutôt que l’efficacité ou l’optimisation, le succès réside dans la construction de systèmes qui reconnaissent le poids émotionnel porté par les images qu’ils touchent.

Nos photos documentent qui nous sommes et qui nous avons été. Tout IA confiée à elles doit reconnaître qu’elle opère dans l’un des espaces les plus humains que la technologie peut pénétrer.