Skip to content

Commit

Permalink
Update content.txt
Browse files Browse the repository at this point in the history
  • Loading branch information
paulinegourlet authored Nov 9, 2023
1 parent 6c7a795 commit 0d3b4c6
Showing 1 changed file with 10 additions and 8 deletions.
18 changes: 10 additions & 8 deletions public/content.txt
Original file line number Diff line number Diff line change
Expand Up @@ -624,11 +624,11 @@ Très utiles dans le travail de constitution des soucis collectifs, les document

Ces documents sont centraux pour l'observatoire de la formation et de la circulation des prises, comme en témoigne la visualisation ci-contre. D'une part, ils sont des enregistrements d'actions passées et à ce titre, ils concrétisent des tentatives de prises par certains acteurs et révèlent des opérations spécifiques (visibles au travers des labels de la visualisation, comme par exemple, "tweet", "exposition", "maquette pédagogique" ou encore "tract").

D'autre part, les registres de ces documents, témoins de leurs inscriptions sociales et matérielles (par exemple, "sientifique", "pédagogique", "administratif"), font apparaître des médiations privilégiées par les praticien.nes pour agir. De plus, ces médiations mettent en lumière des liens historiques entre certaines pratiques et certains milieux. Elles permettent ainsi de pister la carrière de termes ou de manières de faire mais aussi de mettre à jour des mécanismes d'emprise.
D'autre part, les registres de ces documents, témoins de leurs inscriptions sociales et matérielles (par exemple, "sientifique", "pédagogique", "administratif"), font apparaître des médiations privilégiées par les praticien.nes pour agir. De plus, ces médiations mettent en lumière des liens historiques entre certaines pratiques et certains milieux. Elles permettent ainsi de pister la carrière de termes ou de manières de faire mais aussi de mettre à jour des succès de prises, voire des mécanismes d'emprise.

L'analyse de ces documents peut ainsi s'apparenter à une sorte d'archéologie des prises, qui tient compte autant des formats et médiations d'enregistrement que des opérations enregistrées. On constate par exemple que les praticien.nes mobilisent largement des documents issus de sources médiatiques (et dans une proportion importante, issus de la presse). Par ailleurs, les registres scientifique, administratif et analytique sont largement représentés, même si nous verrons que le recours à ces registres, contrairement au registre médiatique, dépend fortement du type des pratiques et des motifs qui les animent.

<small> A noter : cette matière documentaire est disponible ci-dessous, organisée et accessible depuis la description des soucis, ci-dessous.</small>
<small> A noter : cette matière documentaire est disponible, organisée et accessible depuis la description des soucis ci-dessous.</small>
</details>


Expand Down Expand Up @@ -656,16 +656,18 @@ Comme dans le cas DataJust, l’enquête montre que cette problématique des mod
<small>Accéder aux matériaux de ces deux soucis </small>
#### [Tester l'IA dans le monde](/ShapingAI/#tester) | [Participer à l'IA](/ShapingAI/#participer)

Ces deux soucis sont construits en miroir, comme les deux faces d’une même pièce, tendues entre une logique d’expérimentation qui serait toute entière à l'initiative producteurs d'IA qui chercheraient à pousser l'innovation coûte que coûte, tandis que la participation publique serait elle, du côté du monde, mettant en scène des citoyens (ou autres “non-experts”) mal définis, tentant de résister.
De manière unanime, les co-enquêteur.rices de Shaping AI partagent le constat d’un “déficit de participation” et de la primauté de la logique du test avec peu de modalités d'exercice d'une participation publique. Cependant, beaucoup affirment se trouver démunis quant aux formes que pourrait ou devrait avoir cette participation—la participation publique telle que pratiquée par les institutions publiques étant largement critiquée. Il semble donc que de nouveaux cadrages soient nécessaires pour repenser la participation dans les logiques mêmes du test continu dans le monde.
Ces deux soucis sont construits en miroir, comme les deux faces d’une même pièce, tendues entre une logique d’expérimentation qui serait toute entière à l'initiative des producteurs d'IA qui chercheraient à pousser l'innovation coûte que coûte, tandis que la participation publique serait elle, du côté du monde, mettant en scène des citoyens (ou autres “non-experts”) mal définis, tentant de résister.
De manière unanime, les co-enquêteur.rices de Shaping AI partagent le constat d’un “déficit de participation” et des effets problématiques voire délétères de certaines expérimentations, mises en œuvre avec peu de moyen de contrôle et sans qu'aucun mécanisme d'exercice démocratique ne soit prévu, au-delà des mécanismes lourds de la représentation. Cependant, beaucoup affirment se trouver démunis quant aux formes que pourrait ou devrait avoir un tel exercice démocratique—la participation publique telle que pratiquée par les institutions étant largement critiquée (sur ce point, voir également la section [Avoir prise...](/ShapingAI/#avoir-prise).

Comme les discours typiques analysés dans la presse, la configuration des rapports sociaux que cette dualité met en scène laisse insatisfaits. Comme le défend Noortje Marres dans son [plaidoyer pour une sociologie du test](https://onlinelibrary.wiley.com/doi/full/10.1111/1468-4446.12746), les expérimentations de systèmes d’IA ne doivent pas se comprendre comme un passage du laboratoire au monde. Au contraire, les tests réalisent le social. Le social n’est donc pas le “contexte” du développement technologique, c’est le tissu social lui-même qui est mis au test par le développement technologique et il s’agit de comprendre comment il est affecté et transformé par lui, par les modalités et les formes de ces expérimentation.
Comme les récits typiques analysés dans la presse, la configuration des rapports sociaux que la dualité entre tester et participer met en scène laisse insatisfait. Comme le défend Noortje Marres dans son [plaidoyer pour une sociologie du test](https://onlinelibrary.wiley.com/doi/full/10.1111/1468-4446.12746), les expérimentations de systèmes d’IA ne doivent pas se comprendre comme un passage du laboratoire au monde. Au contraire, les tests réalisent le social. Le social n’est donc pas le “contexte” du développement technologique, c’est le tissu social lui-même qui est mis au test par le développement technologique et il s’agit de comprendre comment il est affecté et transformé par lui, par les modalités et les formes de ces expérimentation.

Si les motifs qui sous-tendent les soucis **Tester l’IA** et **Participer à l’IA** s’opposent, les descriptions des co-enquêteur.rices détaillent les prises des uns et la manière dont certaines volontés s’exercent par-delà les protestations d’autres et parfois mêmes par-delà des refus clairement exprimés et largement relayés. Ces descriptions insistent notamment sur la manière dont le droit est continuellement aménagé pour permettre aux entrepreneurs d’expérimenter et exposent les tensions entre volonté de tester (notamment pour développer des opportunités de business) et mise en place de “gardes-fous” efficaces pour encadrer ces tests.
**Il apparaît donc que de nouveaux cadrages, c'est-à-dire des nouvelles manières de problématiser l'IA, sont nécessaires pour repenser la participation dans les logiques mêmes des tests qui s'opèrent dans le monde, avec des instances adaptées.**

Là encore, l’IA ne fait pas figure d’exception, et la répétition de cette configuration asymétrique est à l'œuvre dans les développements récents de plusieurs technologies, engendrant des frustrations légitimes. Participer authentiquement aux choix techniques devient une revendication forte d’une partie de la société civile (voir par exemple [les débats sur la 5G dans la CCC](https://propositions.conventioncitoyennepourleclimat.fr/objectif/accompagner-levolution-du-numerique-pour-reduire-ses-impacts-environnementaux/)). Mais cette revendication semble se focaliser pour le moment sur des arènes politiques, limitant ainsi fortement les marges opératoires et les prises possibles (à quelques exceptions près, voir la vidéo [Participer à l'IA](/ShapingAI/#participer)), pendant que les démonstrateurs technologiques, rapidement produits à peu de frais, performent en continu les preuves de leur besoin et infrastructurent leur devenir.
Si les motifs qui sous-tendent les soucis **Tester l’IA** et **Participer à l’IA** s’opposent, les descriptions des co-enquêteur.rices détaillent les prises des uns et la manière dont certaines volontés s’exercent par-delà les protestations d’autres et parfois mêmes par-delà de refus clairement exprimés et largement relayés. Ces descriptions insistent notamment sur la manière dont le droit est continuellement aménagé pour permettre aux entrepreneurs d’expérimenter et exposent les tensions entre volonté de tester (notamment pour développer des opportunités de business) et mise en place de “gardes-fous” efficaces pour encadrer ces tests.

Pour sortir de l’opposition dualiste et peu agissante du test face à la participation publique et commencer à envisager des modalités de participation au sein même des expériementations, il nous semble donc intéressant de nous pencher sur ce qui est spécifique dans les mécanismes du développement de l’IA en France pour tenter de dessiner des prises et permettre une prise en compte efficace de voix et d’intérêts pluriels. C'est ce que les soucis des praticien.nes, avec leurs prises, permettent justement d'éclairer.
Là encore, l’IA ne fait pas figure d’exception, et ces configurations asymétriques se répètent dans les développements récents de plusieurs technologies, engendrant des frustrations légitimes. Participer authentiquement aux choix techniques devient une revendication forte d’une partie de la société civile (voir par exemple [les débats sur la 5G dans la CCC](https://propositions.conventioncitoyennepourleclimat.fr/objectif/accompagner-levolution-du-numerique-pour-reduire-ses-impacts-environnementaux/)). Mais ces revendications semblent se focaliser pour le moment sur des arènes politiques, limitant ainsi fortement les marges opératoires et les prises possibles (à quelques exceptions près, voir la vidéo [Participer à l'IA](/ShapingAI/#participer)). Pendant ce temps, les démonstrateurs technologiques, rapidement produits à peu de frais, performent en continu des preuves de leur nécessité et infrastructurent leur devenir.

Pour sortir de l’opposition dualiste et peu agissante du test face à la participation publique et commencer à envisager des modalités de participation au sein même des expériementations, il nous semble donc intéressant de nous pencher sur ce qui est spécifique dans les mécanismes du développement de l’IA en France pour tenter de dessiner des prises efficaces, qui tiennent compte de voix et d’intérêts pluriels. C'est ce que les soucis des praticien.nes, avec leurs tentatives et leurs doutes, se proposent de commencer à éclairer.



Expand Down

0 comments on commit 0d3b4c6

Please sign in to comment.