Dans un exemple de l’utilisation réussie de l’IA par l’IC, après avoir épuisé toutes les autres voies – des espions humains au renseignement électromagnétique – les États-Unis ont pu trouver une installation de recherche et développement sur les ADM non identifiée dans un grand pays asiatique en localisant un bus qui voyageait entre elle et d’autres installations connues. Pour ce faire, les analystes ont utilisé des algorithmes pour rechercher et évaluer des images de presque chaque centimètre carré du pays, selon un haut responsable du renseignement américain qui a parlé en arrière-plan avec la compréhension de ne pas être nommé.
Alors que l’IA peut calculer, récupérer et utiliser une programmation qui effectue des analyses rationnelles limitées, il lui manque le calcul pour disséquer correctement les composants plus émotionnels ou inconscients de l’intelligence humaine qui sont décrits par les psychologues comme la pensée du système 1.
L’IA, par exemple, peut rédiger des rapports de renseignement qui s’apparentent à des articles de journaux sur le baseball, qui contiennent des flux non logiques structurés et des éléments de contenu répétitifs. Cependant, lorsque les mémoires nécessitent une complexité de raisonnement ou des arguments logiques qui justifient ou démontrent des conclusions, l’IA s’est avérée insuffisante. Lorsque la communauté du renseignement a testé la capacité, dit le responsable du renseignement, le produit ressemblait à un dossier de renseignement mais était par ailleurs absurde.
De tels processus algorithmiques peuvent être amenés à se chevaucher, ajoutant des couches de complexité au raisonnement informatique, mais même dans ce cas, ces algorithmes ne peuvent pas interpréter le contexte aussi bien que les humains, en particulier en ce qui concerne le langage, comme le discours de haine.
La compréhension de l’IA pourrait être plus analogue à la compréhension d’un tout-petit humain, explique Eric Curwin, directeur de la technologie chez Pyrra Technologies, qui identifie les menaces virtuelles pour les clients, de la violence à la désinformation. “Par exemple, l’IA peut comprendre les bases du langage humain, mais les modèles fondamentaux n’ont pas les connaissances latentes ou contextuelles pour accomplir des tâches spécifiques”, explique Curwin.
“D’un point de vue analytique, l’IA a du mal à interpréter l’intention”, ajoute Curwin. “L’informatique est un domaine précieux et important, mais ce sont les scientifiques du calcul social qui font le grand pas en permettant aux machines d’interpréter, de comprendre et de prédire le comportement.”
Afin de “construire des modèles qui peuvent commencer à remplacer l’intuition ou la cognition humaine”, explique Curwin, “les chercheurs doivent d’abord comprendre comment interpréter le comportement et traduire ce comportement en quelque chose que l’IA peut apprendre”.
Bien que l’apprentissage automatique et l’analyse de mégadonnées fournissent une analyse prédictive de ce qui pourrait ou se produira probablement, il ne peut pas expliquer aux analystes comment ou pourquoi il est arrivé à ces conclusions. L’opacité du raisonnement de l’IA et la difficulté de vérifier les sources, qui consistent en des ensembles de données extrêmement volumineux, peuvent avoir un impact sur la solidité et la transparence réelles ou perçues de ces conclusions.
La transparence dans le raisonnement et l’approvisionnement sont des exigences pour les normes d’analyse commerciale des produits fabriqués par et pour la communauté du renseignement. L’objectivité analytique est également exigée par la loi, suscitant des appels au sein du gouvernement américain pour mettre à jour ces normes et lois à la lumière de la prévalence croissante de l’IA.
L’apprentissage automatique et les algorithmes, lorsqu’ils sont utilisés pour des jugements prédictifs, sont également considérés par certains praticiens du renseignement comme plus de l’art que de la science. Autrement dit, ils sont sujets aux préjugés, au bruit et peuvent être accompagnés de méthodologies qui ne sont pas solides et conduisent à des erreurs similaires à celles trouvées dans les sciences et les arts criminalistiques criminels.
