Pour introduire de manière explicite la notion de mathématiques cognitives, nous allons exploiter un concept qui nous a été enseigné par Michel Mizony à savoir celui de monstration. Il s’agit d’une technique de didactique particulièrement adaptée à l’analyse et qui permet de faire l’ébauche d’une démonstration sans regarder en détail les problèmes techniques qui pourraient apparaître au moment de son application effective. Cela permet entre autres d’examiner plus clairement l’idée d’une démonstration en étant débarrassé de son carcan formaliste. Ainsi une monstration représente la stratégie d’une démonstration. Elle ne représente donc qu’une partie de celle-ci certes essentielle mais néanmoins une partie. Car ensuite il s’agit de la certifier à l’aide d’une démonstration rigoureuse et formelle qui représente la seule manière d’aborder le domaine des démonstrations sans mot. Ce sont des démonstrations essentiellement visuelles qui sans l’aide du medium linguistique parvient à convaincre leurs lecteurs de la véracité de leur preuve. Cette technique a beaucoup été développée par Solomon Golomb dans le cadre des polyominos. Sans pour autant être réduit à cela, elle demeure néanmoins cantonnée dans un cadre relativement restreint en raison de la présence presque partout du medium linguistique qui représente via sa formalisation la méthode la plus usitée pour effectuer une démonstration. Cependant, la notion clef demeure le problème ouvert pour introduire les mathématiques cognitives car même si nous pourrions les définir comme un domaine des mathématiques où les monstrations sont des démonstrations ou encore comme l’extension naturelle des démonstrations sans mot, un aspect essentiel de leur caractéristique nous échappe à savoir l’absence explicite de méthode qui conduise de l’énoncé à la conclusion.
Avant d’aborder les mathématiques cognitives, nous allons nous restreindre à une catégorie de problèmes ouverts. Nous considérons désormais les problèmes ouverts dont l’énoncé est élémentaire (i.e. qui ne nécessite pas de connaissances mathématiques sophistiquées pour être compris.) et dont la solution une fois obtenu constitue une preuve en soi (i.e. sans emploi d’un certificat théorique). Ainsi nous excluons des problèmes du type : 2^127-1 est-il premier ? Car même si son énoncé est élémentaire, sa conclusion à savoir que 2^127-1 est un nombre premier ne l’est pas.
Cette précédente explication nous conduit à la remarque suivante. La filiation naturelle des mathématiques cognitives est celle des mathématiques constructives et des mathématiques effectives. En effet ces dernières représentent le cadre théorique dans lequel les mathématiques cognitives existent au sans large. Pour quelle raison au sens large ? Car même si cela représente une transgression gnoséologique, le raisonnement par l’absurde n’est pas exclu des mathématiques cognitives. En effet, il serait dommage de se priver pour démontrer par exemple que 2^0.5 n’est pas rationnel. Cet exemple générique nous permet aussi de remarquer que les mathématiques cognitives sont bien définies non pas par un cadre mathématique stricte mais plutôt dans un cadre cognitif.
De manière moins formelle, et sans doute plus compréhensible du point de vue de la didactique, les mathématiques cognitives représentent l’ensemble des énoncés aisément compréhensibles dont les conclusions sont elles aussi aisément compréhensibles sans pour autant que la méthode qui conduise des uns aux autres le soit. Et finalement, c’est cela le point le plus important après la simplicité des extrémités. La caractéristique principale des mathématiques cognitives est l’absence de méthode universelle et globale qui permette de résoudre un problème spécifique. Ce point qui pourrait sembler négatif pour un mathématicien classique est au contraire, une fois le recul théorique pris, la preuve de l’application d’une mentalité gôdelienne.
En effet, une autre manière de voir le théorème d’incomplétude de Gödel consiste à dire qu’il représente la preuve que pour démontrer un théorème, il sera toujours nécessaire d’introduire un nouvel axiome. Et ceci représente la manière la plus élégante d’introduire l’aspect cognitif des mathématiques en considérant cette liberté axiomatique, car quel est l’outil qui permet de faire ce choix, si ce n’est la cognition ? En effet, ce choix est par définition hors du contexte théorique initial et ainsi il vit dans le méta qui n’est pas formalisé par cette théorie.
De même dans le cadre des problèmes ouverts, un isomorphisme cognitif permet d’affirmer que c’est au solveur que revient non seulement le choix mais la création de la méthode de résolution car il est possible qu’il n’en existe pas d’équivalent. Ainsi le cognitif est dans la méthode car celle-ci ne peut vivre exclusivement dans un cadre théorique donné.
L’extension naturelle de l’idée précédente amène à la problématique de l’acquisition de méta-heuristiques. Car la méthode n’étant pas suggérée, le solveur doit d’abord le trouver avant de l’appliquer et il doit donc résoudre un méta-problème : comment trouver une méthode sans indication de méthode. Il est utile à ce niveau de remarquer que le problème est multiple. Il ne s’agit pas seulement de trouver une méta-méthode mais aussi de l’enseigner. Comment enseigner la méthode de la recherche d’une méthode qui ne peut être enseignée ? Il est évident à présent que notre analogie gödelienne n’est pas un simple artifice d’écriture puisque nous sommes confronter à un cadre auto-référent. Il est alors naturel de penser à des techniques de brainstorming ou de pensée latérale dont le but ultime est de produire un raisonnement non uniforme. En termes plus simples, il s’agit de faire interagir plusieurs idées pas nécessairement toutes bonnes et utiles afin de faire germer l’idée de la résolution sur un plan plus informatique et surtout algorithmique, cela consiste à rechercher des méthodes qui ne soient pas du type gradient mais plutôt des méthodes de recuit simulés, des algorithmes génétiques et des myrmécosystèmes.
Nous avons montré dans un article précédent comment la suite de Douglas Hofstaedter pouvait être considérée comme un paradigme de raisonnement non uniforme. Aussi nous allons nous efforcer à présent d’étudier une caractéristique fondamentale de ce dernier à savoir la rupture cognitive. Pour cela nous avons besoin de préciser le sens du mot élémentaire dans ce contexte. Il ne saurait s’agir de celui qui est strictement relatif à la hiérarchie axiomatique, car la différence de traitement du problème de la distribution des nombres premiers par Hadamard et Erdös montre explicitement qu’elle n’est pas corrélée avec la difficulté démonstrative. Il ne s’agit pas non plus d’une notion subjective dépendant de chaque individu car elle permettrait à la rhétorique de pénétrer le cadre mathématique afin de le contaminer dans sa globalité. Nous conserverons cette idée donc uniquement pour l’exploiter dans la notion de rupture cognitive. Sera donc considéré comme élémentaire ce que l’individu gère dans son espace cognitif. Et le raisonnement non uniforme consistera alors en la transgression gnoséologique de cet espace pour résoudre un problème donné.
Pour mieux expliciter les mathématiques cognitives, nous allons considérer le paradigme des constructions géométriques planaires uniquement à l’aide d’un compas. Tout d’abord nous devons définir ce cadre du point de vue historique. L’humanité a très tôt recherché à caractériser les objets constructibles à la règle et au compas. Dans cette recherche, elle s’est vite retrouvée face à des problèmes insolubles comme la trisection de l’angle et le célèbre problème de la quadrature du cercle, qui ont traversé les temps en défiant les mathématiciens de chaque époque. Comme nous le savons aujourd’hui ces problèmes ont été résolus au XXème siècle par la négative. Aussi pour notre propos, nous étudierons une autre problématique qui elle est constructive. Plus précisément, il s’agit du théorème de Mohr-Mascheroni qui estime que toute figure à la règle et au compas est constructible au compas seul.
Le caractère idéal de ce cadre est dû au fait qu’il permet de savoir qu’une construction au compas seul est théoriquement possible si elle est constructible à la règle et au compas. Comme ce certificat est aisé, le cadre correspond bien à notre problématique. De plus, ce théorème ne donne aucune information sur la manière de procéder pour construire effectivement une figure au compas seul alors que le résultat final une fois obtenu est facilement vérifiable.
A présent, considérons les constructions les plus élémentaires de ce nouveau champ. A l’aide du compas seul construire le milieu de deux points, les quatre sommets d’un carré et les huit sommets d’un octogone. Le premier constat est que ces simples constructions n’ont plus le caractère élémentaire qu’elles auraient lorsque l’on pouvait utiliser la règle et le compas pour les réaliser. Et ce, pas même pour des étudiants en mathématiques comme l’intuition pourrait nous laisser le supposer. Plus précisément, pour le problème de la construction du milieu de deux points au compas seul que nous avons proposé à des étudiants de premier cycle (Deug SM, Deug Mias, Math. Sup et Math. Spé), le résultat est étonnant puisqu’aucun d’entre eux n’a trouvé la solution même après plusieurs tentatives et pour certains plusieurs jours de recherche.
Cependant, nous n’utilisons pas cette étude auprès des étudiant en tant qu’argument de complexité du problème. Nous nous contentons de remarquer que ce problème a perdu son caractère élémentaire intuitif. Notre but est plutôt de montrer que la compréhension de l’utilisation du compas seul engendre une nouvelle approche de la construction d’une figure et cette approche est dynamique.
La simplicité habituelle de la construction du milieu de deux points [(avec la règle graduée, la comparaison numérique efface l’aspect géométrique), (avec la règle et le compas, la présence de la droite initiale et celle de la médiatrice rend le problème immédiat)] efface l’aspect dynamique inhérent à la construction. Dans ce cadre le solveur ne s’attarde que sur l’aspect statique du problème, alors que celui-ci ne représente que l’état final du processus. Pour mieux comprendre ce phénomène, il est plus intéressant de considérer la construction des quatre sommets d’un carré.
L’image habituelle que nous avons du carré est celle d’une figure parfaitement symétrique ou pour être plus précis, isotropique quadri-axiale. Cette image est en l’occurrence toute ce qu’il y a de plus statique puisqu’elle ne se préoccupe aucunement de la construction du carré. L’état final est considéré comme son ontologie. La question est pourquoi ? Et la réponse est simple. La rapidité d’exécution de la figure efface totalement son aspect dynamique. Tandis que l’utilisation du compas seul qui nécessite un plus grand nombre d’opérations pour parvenir au résultat met en évidence l’aspect dynamique de la construction et le caractère non symétrique de celle-ci.
En effet la construction d’un carré n’est pas symétrique même si elle est générique. Car elle impose un ordre qui engendre une différence de nature des points. Aussi nous allons les considérer un à un. Il est évident que le premier point correspond à un choix arbitraire. Nous pourrions pense qu’il s’agit de la même chose pour le deuxième point. Or il n’en est rien. Car à l’aide de ce deuxième point nous pouvons définir soit le côté du carré, soit la diagonale. Et cela constitue un deuxième choix qui fixe en quelque sorte la taille du carré. Considérons que nous avons choisi de définir le côté. Comment construisons-nous le troisième point ? Cette fois nous voyons que celui-ci est totalement fixé par les contraintes (à isomorphie près) puisqu’il doit se trouver à une certaine distance du second point et doit former un angle droit avec le premier. Enfin, le dernier est complètement fixé car il doit être à égale distance du premier et du troisième et à une distance du second qui doit être égal à celle qui sépare le premier et le troisième. La difficulté de la construction au compas seul engendre naturellement la mise en évidence de cet ordre constructif qui représente l’aspect dynamique de la figure. Ainsi la recherche sous contrainte, l’utilisation du compas seul engendre la compréhension de la démonstration structurelle, qui elle-même met en évidence des sous-structures (comme la notion d’angle droit dans le cas de la construction du carré) dont la résolution constructive conduit à la construction finale.
Pour conclure, il est important de souligner le fait que cette nouvelle approche dynamique, une fois acquise et formalisée, nous a permis de donner une démonstration constructive et effective du théorème de Mohr-Mascheroni en explicitant toute les configurations possible de droite et de cercles et en les construisant à l’aide de techniques proprement cognitives. En d’autres termes, nous avons effectué une démonstration cognitive de ce théorème. La formalisation des schémas mentaux nécessaires à cette démonstration nous a permis ensuite de l’enseigner en phase de brainstorming avec feedback au sein du groupe spécial de recherche dans le cadre de la structure de l’IREM. Enfin la formalisation de cette technique de raisonnement non-uniforme et donc l’acquisition d’une métaheuristique dans ce domaine engendre une vision radicalement nouvelle en raison du caractère irréversible de cette méta-connaissance.