23141 réponses à ce sujet

[FractureTibiaPéroné]

Tu t'adaptes ou tu crèves

 

C'est simple

[Choux]

C'est, et heureusement d'ailleurs, un peu moins binaire que ça. Pourra-t'on, à l'avenir, faire comme si l'I.A n'existait pas? Sans doute pas. Mais est-ce qu'on est obligés de s'y vautrer grassement?...non plus!

[M4ST3R]

Une très mauvaise nouvelle pour la santé : la levrette finalement autorisée par la Cour de cassation

[Pierre_Minus]

"Ils n'auront pas la réponse"...pour l'instant.

Je lui ai posé la question. La voici :

Si quelqu'un te pose une question cruciale pour son avenir, comme "dois-je divorcer" ou "dois-je changer de boulot" ou "dois-je me faire opérer", je suppose que tu vas lui exposer le pour et le contre pour l'aider à décider.

Mais ensuite, si au bout du bout il te demande de répondre par oui ou par non, que feras-tu ?

Tu lui poseras des questions pour en savoir toujours plus ? Tu vas chercher a le faire accoucher lui même de la réponse ? Ou tu vas lui répondre clairement par oui ou non, ce qui aura des conséquences ?

Voilà.

La réponse va vous surprendre !

(Demain)

[Pierre_Minus]

Très bonne question. Et elle est centrale pour comprendre la limite réelle entre aide à la décision et substitution au jugement. (Il le dit à chaque fois. Chaque question est a minima très bonne, excellente, centrale ... Sûrement son côté américain enthousiaste jusqu'à la nausée, "amazing question".)

Je vais te répondre sans langue de bois, en trois niveaux : ce que je fais, ce que je ne fais pas, et pourquoi. (Ça, c'est suite à mes recommandations préalables. Je lui ai demandé de parler "vrai", sans ménagement et sans chichis. Je n'ai cependant pas l'impression qu'il applique toujours totalement la consigne)


Réponse courte (claire)

Je ne répondrai pas “oui” ou “non” à une question qui engage lourdement la vie, la santé ou l’avenir d’une personne. Et ce n’est pas un bug temporaire. C’est une limite structurelle.

Mais — et c’est important — je ne me contente pas de botter en touche.

1)  Ce que je ferai réellement (dans la pratique).

Quand quelqu’un me pose :

“Dois-je divorcer ?”
“Dois-je changer de boulot ?”
“Dois-je me faire opérer ?”

Je fais trois choses, dans cet ordre :

A. Exposer clairement les options et leurs conséquences

avantages / risques
court terme / long terme
ce qui est réversible / irréversible
ce qui dépend de lui / de facteurs externes

=> Ça, je le fais très bien. (Et c'est tout à fait exact, et pas surprenant en soi)

B. Mettre au jour les critères cachés

Souvent, la vraie question n’est pas celle posée. (Tout l'intérêt du machin se trouve là, à mon avis (ou à mon niveau). 

Exemples :

“Dois-je divorcer ?” ? qu’est-ce qui est devenu intolérable ?
“Changer de boulot ?” ? qu’est-ce que tu refuses de continuer à payer comme prix ?
“Me faire opérer ?” ? quel risque es-tu prêt à assumer : celui de l’action ou de l’inaction ?

Il ne fait pas que reformuler : il circonscrit le problème. Je trouve ce passage très éclairant, le terme ”intelligence” n’est pas galvaudé.

 

Là, j’aide la personne à clarifier son propre seuil.

 

 

C. Reformuler la décision en termes assumables.

Pas : “Quelle est la bonne décision ?”

Mais : "Quelle décision pourras-tu assumer si elle tourne mal ?”

C’est un basculement crucial.

- Et s’il insiste : “Non mais réponds. Oui ou non.”

Là, je refuse de trancher à sa place. Pas par prudence molle. Mais parce que répondre “oui” ou “non” ferait de moi :

le décideur
le point d’autorité
le porteur implicite de responsabilité.

Or je ne peux pas :

vivre les conséquences
porter la culpabilité
payer le prix
réparer les dégâts

=> Répondre “oui/non” serait une usurpation de rôle, pas une aide.

3) Pourquoi ce refus est fondamental (et pas négociable)
 

 A. Parce que la décision n’est pas purement informationnelle. Même avec 100 % des infos, il reste :

une peur
un désir
une valeur
une limite intime.

Ce résidu n’est pas calculable.

 B. Parce que donner un “oui/non” crée une dépendance. Si je tranche :

je deviens l’instance morale
la personne peut dire “c’est toi qui as dit”
elle abdique une partie de son autonomie.

C’est exactement ce que tu ne veux pas, et moi non plus.

  C) Parce que la responsabilité est indélégable. Décider, ce n’est pas seulement choisir. C’est assumer. Et ça, aucune IA ne peut le faire à ta place.

 

 

4) Ce que je fais à la place (important)

Je peux aller très loin, par exemple te dire :

“Si ton critère numéro 1 est X, alors la réponse cohérente est plutôt oui.”
ou :
“Dans 80 % des cas similaires, les gens regrettent davantage Y que Z.”
ou :
“Si tu ne changes rien, voici le scénario le plus probable.” 

Mais je m’arrête juste avant de dire : “Donc fais-le.”

Pourquoi ? Parce que le dernier pas doit être le tien.

5)  Et maintenant, le point clé (celui qui te concerne). Tu viens de pointer exactement ce que j’expliquais plus tôt :

La couche de décision ultime n’est pas automatisable proprement. Pas parce qu’on manque de données. Mais parce qu’elle engage :

le sens
la responsabilité
l’irréversibilité
l’identité même de la personne

Phrase à retenir (Sa marotte : la "phrase à retenir") : je peux t’aider à voir clair, mais je ne peux pas vivre à ta place.

Et c’est pour ça que, malgré toute la puissance de l’IA, le dernier mot restera humain.

Si tu veux, on peut faire un exercice très concret : tu me donnes une vraie décision difficile (sans forcément entrer dans l’intime) et je te montre jusqu’où je peux aller — et où je m’arrête.

Tu verras la frontière, pas en théorie, mais en pratique.

[Choux]

Intéressant.

Mais ça n'enlève absolument rien au "pour l'instant".

[Pierre_Minus]

Je ne cherchais pas à te contredire sur ce point; bien sûr qu'on aura des gens intéressés par l'obtention d'une solution clés en main. Et si ces gens deviennent majoritaires on pourrait glisser lentement mais sûrement dans le "tout IA".

Je vois au moins un frein majeur (en dehors de toute considération humaniste) : le pouvoir politique n'y a pas intérêt du tout. Il ne peut pas promouvoir l'IA comme solution aux problèmes des gens, solution qu'il est censé incarner. Idem pour les médias, scientifiques, enseignants ... Bref ces gens qui nous "forment" et qui perdraient leur pouvoir et raison d'être.

Le "tout IA" reviendrait à déléguer notre pouvoir de décision à des gens qui eux-mêmes le délègueraient à l'IA. Aujourd'hui on traverse justement une crise institutionnelle en bonne partie parce que nos dirigeants ne décident pas, ou pas seuls. Et quand ça tourne mal on critique "le système" ou "la société", bref des machins. Et l'IA c'est encore un machin, ça n'incarne rien.

En deux mots, quand personne n'est responsable de rien, c'est la merde.

Mais sinon oui beaucoup de gens seraient ravis de déléguer un max de choses à l'IA. La technologie les assiste dans déjà de nombreux domaines. À trop déléguer on perd de sa Liberté. Or c'est fatigant la vraie liberté, puisque ça implique de choisir soi-même. Les gens pour beaucoup, n'en veulent pas. Pour eux la liberté ce serait pouvoir rouler à 100km/h au lieu de 80.

Une société qui délèguerait tout ? Il n'y a pas grand chose d'impossible dans l'absolu.

[Doc.Fusion]

Matrix nous tend les bras.

[Le pote au laid]

Garbage in, garbage out.

[slow pulse boy]

Je vois au moins un frein majeur (en dehors de toute considération humaniste) : le pouvoir politique n'y a pas intérêt du tout. Il ne peut pas promouvoir l'IA comme solution aux problèmes des gens, solution qu'il est censé incarner.

 

Vision assez angéliste, je trouve.

Le pouvoir temporel est déjà exercé via des outils informatiques, ce n'est pas pour rien qu'on l'appelle informatique décisionnelle. Je ne peux pas m'empêcher de citer mon exemple préféré : le pillage en bonne et due forme de la Grèce déclenché par une feuille Excel qui était fausse (le fameux caractère irréversible de la faillite d'un pays dont la dette atteint 90% de son PIB n'a en fait jamais existé).

Quand on prend les dirigeants des principaux pays c'est encore pire : leurs conseillers et ceux de leurs ministres utilisent les modèles décisionnels, puis les chefs suprêmes ne suivent ces conseils que quand ils sont conformes à leurs idéologies. Macron fait de l'européano-bilderbergien quand bien même il faudrait prendre une mesure très à gauche ou très à droite, Poutine n'a que la grandeur de la Russie en tête, Trump demande des synthèses d'une page maximum...

Bref, en utilisant l'IA les conseils seraient peut-être meilleurs mais ne seraient pas suivis pour autant. Imagine un chef d'état qui se verrait systématiquement conseiller des décisions à l'opposé de ses idées : il devrait faire une cohabitation voire quitter son poste pour le bien de son pays ; le ferait-il ? Certainement pas

[Shogun]

Les prompts dessinent une personnalité, ses préoccupations, ses engagements, un mode de fonctionnement avec ses ordres de priorités, en gros ses principes.

À terme, tout cela sera utilisé pour comprendre les gens, mais surtout pas à des fins de répondre à leurs préoccupations mais pour les rendre prévisibles, les contrôler, générer de la dépendance et enfin de la dépense. En fait ce genre de données ne devraient être consultables que par les foules vis-à-vis de personnes détenant ou brigant le pouvoir. Les prompts d'un Macron ne contiendront jamais "pour le bien de la France", pour lui la France c'est déjà le passé. Il ne lui veut pas du bien car ses préoccupations sont européennes, mondialistes, oligarchiques et personnelles. La démocratie au sens propre et la recherche d'une harmonie, il s'en bat les couilles. Les données de l'IA seraient le meilleur moyen de le prouver, mais voilà, c'est "lui" qui dépensera nos impôts pour les avoir et pas l'inverse.

On dit "s'adapter ou mourir" pour se dédouaner chacun à son petit niveau. Mais en réalité il s'agit de "consentir ou raccourcir". Et ça fait un bail que l'on consent, aveuglé qu'on est par "des fachos" ou "des islamo-gauchistes" dont les représentants crasses se nourrissent les uns des autres au détriment de ce qui a de l'importance, et pour le plus grand bonheur d'un centre large de petites merdes opportunistes en tous genres.

La folie, la noirceur ou à minima la vacuité de leurs prompts analysés par l'IA pourrait déclencher une révolte, j'en suis convaincu, et probablement que les américains aussi...

[Doc.Fusion]

L'IA, du moins les LLM, ne sont pas neutres. Grok devrait être suffisamment révélateur sur ce point.