Informatique | Dr. Goulu

Bilan 2016

Tue, 27 Dec 2016 00:00:00 +0000

C’est l’heure du traditionnel petit bilan sur l’année écoulée sur ce blog.

Avec 329'000 pages vues par 230'000 visiteurs en 2016, la fréquentation de ce blog est légèrement en baisse, mais rien de grave. Après un passage à vide en 2015, je reste motivé à partager avec vous les résultats de ma curiosité dévorante.

Surprise! Cette année, ce n’est plus “ ” qui a été l’article le plus lu de ce blog. Il est second avec 18'654 lecteurs, assez loin derrière “ ” lu par 23'666 personnes. Je ne sais pas vraiment pourquoi cet article de 2008 a rencontré ce succès cette année. Ses lecteurs ne proviennent pas de pages référentes, mais plutôt de recherches Google du genre “ ” où mon article est désormais bien référencé. Suivent “ ”, “ ” et “ ” dans le Top 5

Parmi les , c’est “ ” qui a rencontré le plus de succès avec 1829 lecteurs, au 30 ème rang seulement. Drgoulu.com n’est donc décidément pas un blog d’actualités mais plutôt un site de références qui restent valables pendant des années. D’ailleurs, les deux tiers des visiteurs soit 200'000 sont arrivés suite à une recherche sur Google, dont 20'000 par la recherche d’image. 4000 de plus sont arrivés par Bing! le bien nommé, 5442 depuis une page Facebook, 1787 depuis le tout beau tout neuf, 1696 depuis twitter, et 660 depuis , le chouette blog de maths de Florian qui a eu la gentillesse de me citer dans ses favoris. Merci !

Ensuite, 589 lecteurs sont arrivés depuis , le répertoire de publications académiques. C’est étonnant, mais ce qui me surprend plus est de n’avoir eu aucune arrivée depuis alors que j’ai pas mal investi dans ce système qui fait automatiquement des liens vers les articles parlant de publications scientifiques ( ) Par contre, environ 200 visiteurs sont arrivés , et ce n’est même pas moi qui ai ajouté ces liens (du moins pas tous …)

Perles de recherche

Parmi les statistiques que j’obtiens, les plus marrantes sont celles donnant les mots recherchés par les internautes pour arriver sur ce site. Best of 2016:

seduire des filles lorsqu’on a de bonnes notes en maths
pourquoi il y a un numero sur le mini paquet de yellow mustard
pourquoi les choses sont-elles comme ça et pas autrement
processus pour trouver un nombre impair
pourquoi elisabeth vergee pose pour elle meme (DrG: mais qui est cette dame?)
theorie de la relativité de la connerie (DrG: oui ça mène bien à une de mes pages…)

Certaines de ces recherches pourraient bien m’inspirer un article en 2017, mais voici déjà ceux auxquels vous avez échappé en 2016

Poubelle 2016

Voici quelques brouillons commencés cette année que je ne finirai pas, sauf demande expresse dans les commentaires:

Fondamentaux pour le Big Data : le MOOC. Après avoir suivi un (très bien) et un autre sur les (trop facile), j’en ai terminé un troisième intitulé “ ” (trop théorique, pas assez de programmation et d’application à mon goût. J’ai mis dans ce brouillon, je ne sais plus pourquoi…
Licorne avançant par émission de micro-ondes … (illustration ArsTechnica)

l’ . Apparemment ce bidule viole la , ou du moins créé une poussée par un phénomène inexpliqué . Mon article se serait résumé à “intéressant. attendons des vérifications indépendantes” en faisant un effort pour rester dans plutôt que dans , qui me tente pourtant plus.
Le “Gravidyne”, mentionné par lors de sa conférence à la matinale des idées sur le voyage interstellaire ( ). Il s’agit d’un moyen de propulsion spatial aussi surprenant que l’EmDrive, mais sans violer les lois de la physique. Mais comme il n’a hélas jamais été réalisé je n’ai pas plus à en dire que ce qu’on trouve dans les références , ,
Sinon j’avais commencé deux articles sur les risques nucléaires, l’un à l’occasion de la publication du rapport de l’AIEA sur l’accident de Fukushima (lecture recommandée, au moins du résumé) et l’autre suite à un passionnant article publié dans “Le Temps” peu avant le vote suisse sur l’abandon rapide du nucléaire (refusé). C’est une version “grand public” d’une recherche de Spencer Wheatley et Didier Sornette, professeurs à l’ETH-Zürich sur l’analyse statistique des risques et coûts du nucléaire. Ils y développement notamment leur “ ” selon laquelle les événements comme Tchernobyl et Fukushima ne sont pas des imprévisibles.
Dans la même veine j’avais aussi les “observations personnelles (de Richard Feynman) sur la fiabilité de la navette spatiale” , sur l’évaluation des risques techniques.
Dernier brouillon à finir à la poubelle cete année, celui sur , tiré du roman de Dan Brown. Un thriller modèle standard, rien à en dire. , et la seule question véritablement intéressante est éludée : que se passerait-il vraiment si un tiers des femmes du monde se retrouvaient stériles ? Avec 25h par jour, j’en aurais occupé quelques unes à , le génial soft d’Yves.

Bon, après ce petit nettoyage hivernal il ne me reste plus que 58 brouillons à des degrés d’avancement variés. Bonne résolution 2017 : en avoir moins de 20 dans un an.

Ca va commencer très fort, celui du 1er janvier est prêt, et il nécessite un autre article d’intro qui devra être publié encore cette année. Alors à très bientôt, merci de me lire, et profitez bien de vos vacances de fin d’année !

Références

White, H., March, P., Lawrence, J., Vera, J., Sylvester, A., Brady, D., & Bailey, P. “ ”, 2016 Journal of Propulsion and Power. American Institute of Aeronautics and Astronautics
Thierry Alhalel “ ”, 2002, Bulletin de l’Union Des Physiciens, 96(Mai), p.935–953.
Roland Lehoucq “Le gravidyne”, 1999, Pour la Science No 260, p. 100
Eduardo Guéron “ ”, 2009, Pour la Science No 384 p. 24
" " Rapport du Directeur général AIEA
Spencer Wheatley et Didier Sornette*, professeurs ETH Zurich “ ”, Le Temps, 14 novembre 2016
Wheatley, S., Sovacool, B., & Sornette, D. “ ”, 2016 Risk Analysis. DOI:10.1111/risa.12587
Rémi Sussan, “ ”, 2013, sur internetactu

La première boucle

Sun, 26 Jun 2016 00:00:00 +0000

Comme d’autres sources fort sérieuses, Sirtin a récemment fait remonter l’origine de l’informatique aux métiers à tisser Jacquard, “programmables” par cartes perforées au tout début du XIXème siècle déjà . Pour ma part je n’adhère pas à cette filiation car les métiers Jacquard ne connaissaient pas la notion de : si on voulait qu’ils tissent 123 fois un motif, il fallait répéter 123 fois la même séquence de petits trous sur les cartes perforées. Autrement dit ces cartes perforées ne contenaient pas un programme mais des données pour un lecteur qui ne faisait que commander des éléments mécaniques indépendants.

Une idée fondatrice de la programmation, c’est de pouvoir coder “répète 123 fois ceci:”, et que la machine ait un moyen de compter jusqu’à 123, ce qui implique l’existence d’une mémoire dont le contenu est modifié par les instructions du programme. Comme l’a très bien exprimé Alan Perlis dans un de ses :

Un programme sans boucle et sans structure de données ne vaut pas la peine d’être écrit.

Ada, en tenue de geek de 1836

Alors qui a écrit le premier programme valant la peine d’être écrit, la première boucle ? C’est . Parfaitement : une femme . Et ceci bien avant qu’ ne propose sa , dont l’intérêt est surtout théorique.

Au contraire, Ada Lovelace a travaillé avec sur un problème bien pratique : établir des tables nautiques, astronomiques et mathématiques exactes en automatisant leur calcul, car à l’époque ces tables calculées à la main étaient truffées d’erreurs. Des comme la ou la “multiplicatrice” de facilitaient déjà le travail, mais Babbage voulut construire une “ ” capable de produire des tables en évaluant des polynômes de manière itérative. Tout en la construisant, il se lança dans la conception d’une “ ” réellement programmable, et dotée notamment d’une mémoire et d’un mécanisme de qui permettait l’exécution de boucles. Un hardware au sens propre : tout en rouages et cames propulsées à la vapeur…

Et c’est Ada Lovelace qui s’est attaquée au “software”. Imaginez que vous soyez à sa place et que vous disposiez de la première et unique calculatrice programmable de l’histoire, qui coûte des millions de livres de l’époque et dont la fiabilité précaire rend chaque opération précieuse. Que proposez-vous comme programme qui “vaut la peine d’être écrit” ? Certainement pas for i=1 to 100:print i; ni les nombres de Fibonacci ou les nombres premiers qu’on connait déjà. Ce qu’Ada a choisi pour le premier programme de l’histoire, c’est de calculer les dont je vous ai . Pourquoi ? Parce qu’avec eux et la on peut calculer plein de tables et d’intégrales utiles.

Lady Ada a donc écrit le premier programme utile de l’histoire, que voici , :

Les boucles sont indiquées par les accolades dans les premières colonnes et par le texte “here follows a repetition of Operations thirteen to twenty-three”. La fameuse “Note G” rédigée par Ada Lovelace au base de montre clairement qu’elle a inventé les notions de variables et de boucle en programmation:

It will be perceived that every unit added to n in B2_n_-1, entails an additional repetition of operations (13…23) for the computation of B2_n_-1. Not only are all the operations precisely the same however for every such repetition, but they require to be respectively supplied with numbers from the very_same pairs of columns_; with only the one exception of Operation 21, which will of course need B5 (from V23) instead of B3 (from V22). This identity in the columns which supply the requisite numbers must not be confounded with identity in the values those columns have upon them and give out to the mill. Most of those values undergo alterations during a performance of the operations (13…23), and consequently the columns present a new set of values for the next performance of (13…23) to work on

fonction de calcul des nombres de Bernoulli en Javascript langage ADA, par S. Goodwin [4)

Et accessoirement que Madame Lovelace commentait son code en prose intelligible, une habitude qui se perd. Exemple : le code ci-contre qui calcule les nombres de Bernoulli en et hélas pas en , baptisé ainsi en l’honneur de la première véritable programmeuse de l’histoire.

Mais on l’a longtemps oubliée car son code n’a hélas jamais pu être exécuté : la machine analytique de Babbage avait trop de frottements, trop d’imprécisions mécaniques, elle n’a jamais fonctionné…

Le premier calculateur réellement programmable ayant fonctionné est, n’en déplaise aux cow-boys, allemand. Le de a été construit en 1941 et détruit lors d’un bombardement en 1943, mais entre deux il a été utilisé pour calculer des choses et donné naissance au premier “vrai” langage de programmation de l’histoire : . Cependant, le Z3 ne permettait pas le qui semble aujourd’hui indispensable à toute boucle utile. Mais comme expliqué dans et , le Z3 était bel et bien grâce à deux horribles magouilles:

on pouvait assigner le résultat binaire d’un test à une variable, par exemple if i>123 then t=0 else t=1; puis utiliser cette variable pour coder les deux “branches” correspondant au “then” et au “else” en codant des formules comme a=t*x+(1-t)*y; qui fait a=x ou a=y selon la valeur de t
on pouvait effectuer une boucle infinie en scotchant la fin de la bande perforée au début pour qu’elle tourne en rond, et rendre la boucle finie avec un code du genre a=a/t qui ne faisait rien tant que t=1, et provoquait une erreur “division par zéro” quand t=0, ce qui arrêtait la machine. Beark! Mais efficace.

C’est sans aucun doute Konrad Zuse qui a fait tourner la première boucle conditionnelle de l’histoire, mais hélas on ne sait plus quel était le premier programme à utiliser cette possibilité.

page de programme ENIAC par Klara von Neumann

Comme ce sont les vainqueurs qui écrivent l’histoire, je termine en mentionnant tout de même l’ , qui fut la première machine Turing-complète électronique. Conçue par selon l’architecture qui est toujours celle des ordinateurs actuels. Cette machine est la première a être programmable au sens moderne du terme avec mémoire, branchements conditionnels, boucles, et femmes.

En effet, avant chaque calcul, les différentes unités de l’ENIAC doivent être reconfigurées par câblage, une tâche dévolue aux 6 “ ” Kay McNulty, Betty Jennings, Betty Snyder, Marlyn Wescoff, Fran Bilas et Ruth Lichterman. Elles aussi longtemps oubliées par l’histoire, un récent reportage leur rend un hommage mérité. J’en ai retenu une phrase :

“The ENIAC was a son of a bitch to program”

On dit souvent que l’ENIAC a servi au calcul de la bombe atomique. Ca dépend laquelle : , Hiroshima et Nagasaki ont eu lieu en 1945, avant qu’ENIAC soit opérationnelle en 1946. Mais ENIAC a effectivement été utilisée pour le développement des armes nucléaires américaines dans les années 1950. Par exemple le petit bout de code ci-contre provient d’un programme de calcul par la des neutrons diffusés lors de la fission nucléaire. Et ce code est du à , la femme de John. Oui, encore une femme.

Qui ose encore prétendre que l’informatique est un truc de mecs ?

Références

“Le tissage à l’origine de l’informatique ?” , et chez Sirtin
Christian Braesch “ ”
Anne-Marie Kermarrec “ ”, 2015, Binaire, Le Monde
Steven Goodwin “
Eugene Eric Kim, Betty Alexandra Toole, “Lady Ada et le premier ordinateur”, 1999, Pour la science No 261,p 64‑69. (
L. F. Menebrea, “ ” Bibliothèque Universelle de Genève, Octobre 1842, No. 82, ( )
Bram Bruines “ ”, 2010
sur StackOverflow
Raul Rojas" ", 1998
sur
Len Shustek “ ”, 2016

"Contre-exemples" au théorème de Fermat-Wiles

Fri, 25 Mar 2016 00:00:00 +0000

vient de remporter le pour sa démonstration du qui dit qu’il n’existe pas de solution de l’équation an+bn=cn pour a,b,c,n entiers et n>2. Pourtant :

il a en réalité “seulement” démontré un cas particulier du (aussi appelé conjecture de Shimura-Taniyama-Weil) dont le théorème de Fermat résulte directement
quelques semaines après la publication des quelques 100 pages de la démonstration d’Andrew Wiles en 1995 , Homer Simpson se promène nonchalamment et en 3D devant un contre-exemple : 1782¹² + 1841¹² = 1922¹²

Cette égalité est due à , matheux et co-scénariste de cette . Si on la vérifie sur une calculatrice standard, on trouve que le terme de gauche vaut 2.541210259e+39 et que celui de droite vaut… 2.541210259e+39 ! C’est un contre-exemple du Grand théorème de Fermat, et la démonstration d’Andrew Wiles ne vaut pas tripette!

Mais en fait non:

Avec plus de décimales ou Python, on voit que le terme de gauche vaut 2541210258614589176288669958142428526657 et celui de droite 2541210259314801410819278649643651567616. Ca fait une gigantesque différence de 700212234530608691501223040959, mais comme elle représente moins d’un milliardième des nombres précédents (2.75 10-10 pour être précis), une bête calculatrice du siècle passé qui ne calculait qu’avec 9 chiffres significatifs ou en nombres flottants sur 32 bits pouvait considérer ce chiffre comme comparativement négligeable.
quatre grands problèmes scientifiques résolus sur un seul tableau !

En y regardant de plus près, on voit tout de suite que l’égalité est fausse car comme 1782 est pair, 1782¹² l’est aussi et comme 1841¹² est impair pour les mêmes raisons, la somme 782¹² + 1841¹² est impaire. Or 1922¹² est pair…

Informé de cette dernière objection, David X. Cohen a fait apparaître dans un autre épisode le tableau noir suivant, sur lequel se trouve un autre faux contre-exemple : 3987¹² + 4365¹² = 4472¹². Belle conscience professionnelle, n’est-ce pas ?*

Cette fois l’égalité proposée respecte la parité, et est “moins fausse” que la précédente puisque la différence ne représente que 1.89 10-11 des termes.

Je me suis alors posé trois questions:

y’a-t-il beaucoup de tels contre-exemples ?
y’a-t-il une raison particulière au fait que les deux exemples de David X. Cohen utilisent la puissance 12 ?
peut-on en trouver qui sont encore moins faux que 1.89 10-11 ?

J’ai donc écrit un ** qui génère les triplets (a,b,c) tels que an+bn=cn est juste à 10-9 près, en balayant les nombres a et b entre 100 et 100'000 et incrémentant n à partir de 3. Ce programme s’est révélé productif au point de pouvoir répondre facilement à la question No 1 : oui, il y a des centaines de faux contre-exemples de la qualité de ceux des Simpson pour chaque p et 100 < a,b < 100'000.

Le plus petit faux contre-exemple trouvé donnant une différence inférieure à 10-9 est 1295³ + 216³ = 1297³ . La différence entre les deux termes 2181825071 et 2181825073 n’est que de 2 !

Celui ayant la précision relative la plus élevée est 487674 + 245764 = 495354 L’erreur relative n’est que de 5.1 10-16 soit juste deux fois plus que la précision des nombres flottants sur 64 bits de la plupart des calculatrices actuelles.

A la puissance 5, le record de précision est 843855 + 834525 = 964035 (à 5.67 10-15 près), ensuite la précision des contre-exemples les moins faux diminue lentement quand la puissance augmente. A la puissance 12 il y a 1931112 + 1882112 = 2021812 (1.95 10-12) qui est meilleur que celui de David X. Cohen, qui s’est probablement limité aux nombres de 4 chiffres. Mais je n’ai rien remarqué de particulier pour n=12

Voilà Andrew, comme 99.99% de la population je n’ai rien compris à ta prodigieuse démonstration qui a nécessité 20 ans de vérifications avant que tu reçoive enfin ce prix bien mérité. Je me joins à David et Homer pour te dire juste Bravo !

Notes:

* la dernière ligne du tableau concerne évidemment la topologie (et non, un donut n’est pas isomorphe à une sphère), mais quelqu’un sait-il à quoi correspondent les lignes 1 et 3 ? Je doute que Cohen ait sorti ces équations de nulle part…

** pourquoi Python ? entre autres parce qu’il gère l’ de façon transparente : rien de spécial à faire pour manipuler des nombres énormes.

Références

Andrew Wiles. “Modular elliptic curves and Fermat’s Last Theorem”, 1995, Annals of Mathematics 142 (3): 443–551. . ( )
séquence “Homer³” dans “ ", épisode 6 saison 7, 1995
, Les Simpson épisode 2 saison 10, 1998
video “ ” de Numberphile sur ce sujet (en anglais)

Einsum

Sun, 17 Jan 2016 00:00:00 +0000

Sacré Albert, tu m’as scié encore une fois !

L’autre jour, j’ai rencontré Einstein se promenant incognito dans un bout de code.

J’ai commencé par ne rien comprendre à une ligne de Python trouvée dans un algo de traitement d’image:

norms = np.einsum(‘ij,ij->i’, X, X)

Alors je suis allé voir la doc de la à laquelle je n’ai rien compris non plus, sauf que le bout du nez d’Albert commençait à apparaître via une mystérieuse “ ” qui serait “un raccourci de notation utile pour la manipulation des équations concernant des coordonnées”.

Par exemple, une simple de deux matrices A et B s’écrit

\[mathjax\]

$$A^i{}_j \times B^j{}_k = C^i{}_k$$

avec la notation d’Einstein, et C=np.einsum(‘ij,jk->ik’, A, B) avec la fonction Python correspondante.

On voit que la chaîne de caractères ‘ij,jk->ik’ correspond aux indices des lignes et colonnes des matrices qui figurent en indice et “exposant” dans la notation d’Einstein, dans le même ordre que dans la représentation de la multiplication matricielle ci-dessous:

Pour une simple multiplication matricielle on ne voit pas trop l’avantage sur la notation

$$A \times B = C$$

, mais ajoutons les 3 règles supplémentaires de la notation d’Einstein appliqués à la fonction einsum (traduit de )

Les indices qui se répètent entre (qui peuvent avoir N dimensions) signifient que les valeurs selon ces axes doivent être multipliées. Les produits font les valeurs du tableau de sortie. Dans le cas ci-dessus on a utilisé l’indice ‘j’ une fois pour A et une fois pour B, ce qui signifie qu’on multiplie chaque ligne de A avec chaque colonne de B
Une lettre omise dans le résultat signifie que les valeurs le long de cette axe doivent être sommées. Dans le produit matriciel ci-dessus, ‘j’ ne figure pas dans les indices du tableau de sortie. Cette omission somme le long de cette “troisième direction en réduisant de 1 la dimension du tableau final. Si la signature avait été ‘ij,jk->ijk’, on aurait obtenu une matrice 3x3x3 des produits, et si on n’avait écrit aucun indice mais gardé la flèche ‘ij,jk->’, on aurait obtenu la somme de tous les éléments de C
On peut obtenir les axes non sommés dans n’importe quel ordre. Si on omet la flèche, einsum arrange les indices qui n’apparaissent qu’une fois dans l’ordre alphabétique, donc on aurait pu écrire juste ‘ij,jk’ au lieu de ‘ij,jk->ik’ pour le produit de matrices “normal” ci-dessus. Mais on aurait pu écrire ‘ij,jk->ki’ si on avait souhaité obtenir la du résultat.

Avec ces astuces, beaucoup (toutes?) les opérations vectorielles, matricielles et sur des tableaux à N dimensions peuvent être effectuées par einsum

Signature de einsum	équivalent NumPy	Description
`(A)`	`A`	renvoie le vecteur A
`('i->', A)`	`sum(A)`	somme des valeurs du vecteur A
`('i,i->i', A, B)`	`A * B`	multiplication des vecteurs A et B élément par élément
`('i,i', A, B)`	`inner(A, B)`	de A et B
`('i,j', A, B)`	`outer(A, B)`	de A et B
`('ij', A)`	`A`	renvoie la matrice A
`('ji', A)`	`A.T`	transposée de A
`('ii->i', A)`	`diag(A)`	diagonale de A
`('ii', A)`	`trace(A)`	somme de la diagonale de A
`('ij->', A)`	`sum(A)`	somme des valeurs de A
`('ij->j', A)`	`sum(A, axis=0)`	somme des colonnes de A
`('ij->i', A)`	`sum(A, axis=1)`	somme des lignes de A
`('ij,ij->ij', A, B)`	`A * B`	multiplication des matrices A et B élément par élément
`('ij,ji->ij', A, B)`	`A * B.T`	multiplication des matrices A et B transposée élément par élément
`('ij,jk', A, B)`	`dot(A, B)`	de A et B
`('ij,jk->ij', A, B)`	`inner(A, B)`	produit intérieur de A et B
`('ij,jk->ijk', A, B)`	`A[:, None] * B`	chaque ligne de A multipliée par B
`('ij,kl->ijkl', A, B)`	`A[:, :, None, None] * B`	chaque valeur de A multipliée par B

Les mathématiciens apprécieront l’élégance de la notation, les physiciens pourront manipuler le et d’autres objets mathématiques avec plus de facilité, mais en quoi la fonction einsum est-elle utile aux informaticiens ?

D’abord, elle permet d’effectuer en une seule fois des opérations qui auraient nécessité de stocker des matrices intermédiaires sans ça. De plus le code de la fonction einsum peut être fortement puisqu’il effectue essentiellement des produits puis des sommes sur des vecteurs. Ce n’est en définitive que l’indexation des tableaux qui change en fonction de l’opération désirée, et le tout peut être optimisé dans certains cas en jouant avec la et la commutativité des opérations. Grâce à ceci, la plupart des opérations listées dans le tableau ci-dessus sont entre 1 et 4 fois plus rapides avec einsum qu’avec leur équivalent Numpy, jamais plus lentes. Et pour des opérations plus complexes comme le calcul de la , l’accélération peut être d’un facteur 10 ou plus .

Si vous n’avez pas tout suivi, retenez juste ceci:

Einstein n’était du tout. Il était un surdoué en maths qui a préféré faire de la physique, mais le fait que sa “convention de sommation” apparaisse dans les langages de programmation un siècle plus tard confirme le génie du bonhomme
Que Python est LE langage de programmation scientifique qui s’impose. Oubliez Matlab, qui n’offre même pas de fonction einsum …

Références

Åhlander, K. (2002). “Einstein summation for multidimensional arrays”, Computers and Mathematics with Applications, 44, 1007–1017. \[[pdf](http://www.nik.no/2000/Krister.Aahlander.pdf)\]
Alex Riley, “ ”
sur MathWorld
sur GitHub
(pas simple…)

Avalanches et goniomètre à infrasons

Thu, 14 Jan 2016 00:00:00 +0000

Dans la liste se trouve une ligne “Téléopération d’un goniomètre à infrasons” sur laquelle je ne pouvais pas être très bavard car il s’agissait d’un projet militaire top secret m’avait-on dit. Mais maintenant que je trouve des informations publiques , sur le net concernant cette réalisation étonnante (à laquelle je n’ai contribué que 3 semaines ), j’ose en dire un peu plus.

Selon l’histoire a commencé par le projet militaire, mais à ce qu’on m’avait dit, ce sont plutôt des recherches sur les avalanches qui ont lancé le projet militaire. L’idée d’un chercheur au était de détecter des avalanches, voire d’avertir de leur imminence en mesurant les infrasons provoqués par le tassement ou la rupture du manteau neigeux. Mais il s’est rapidement aperçu que ses mesures d’infrasons en altitude étaient polluées par beaucoup de bruits parasites : bang supersoniques, explosions, hélicoptères …

“Hélicoptères ? Votre microphone à infrasons entend des hélicoptères volant dans les vallées alpines, sous les radars ?” Ni une ni deux, l’armée suisse finance le projet et construit un système de mesure baptisé “Peiler”, composé de plusieurs micros espacés de quelques dizaines de mètres près des pistes d’ . En mesurant le décalage temporel ( ) des sons captés, un logiciel de traitement des signaux ( en , mon ) pouvait déterminer la direction de la source.

Par exemple dans le ci-dessous un œil entraîné ou un logiciel bien foutu peut distinguer:

Un hélicoptère Lama ou Alouette à turbine, dont les pales génèrent du 17.5 Hz, avec un visible quand l’hélicoptère se déplace
Un autre hélicoptère, stationnaire.
Une série d’explosions à 15h14m35s, azimut 239°, 15h16m28s, azimut 264°, et d’autres explosions à 15h12m10s,15h14m12s, 15h15m09s.
Une avalanche tout de même à 15h16m36s, durant environ 1min46s.

source : Arfang (1)

Les azimuts ne sont pas très précis car le vent dévie les sons, mais on peut partiellement en tenir compte avec des données météo.

Pour déterminer la distance, et donc la position de la source, c’est plus compliqué car il faudrait tenir compte de l’atténuation du son une fois qu’on en connait l’origine. A l’époque où j’ai effectué mon service militaire on détectait certaines explosions tous les jours aux même heures, et à peu près au même azimut. On s’est aperçus que c’étaient les bang supersoniques du Concorde qui partait d’Orly pour Rio de Janeiro ! Mais comme les sons mettent une demi heure pour faire les 600 km de Paris au Valais, les militaires ne pouvaient pas faire autre chose que juste compter des bangs supersoniques de pratiquement tous les vols militaires en Europe… Ce système captait à l’époque des bruits diffus et mal localisés arrivant de l’Est en quasi permanence. Finalement on a compris qu’ils provenaient du , à plus de 1000 km…

Il faut dire qu’à l’altitude en question (2300m), l’atmosphère se comporte un peu comme un : les sons émis plus haut et plus bas se concentrent et se propagent bien à cette altitude. La même chose se produit dans la mer autour de 900m de profondeur , où on place des dispositifs d’écoute de sous-marins probablement très similaires au “Peiler”.

La technologie d’aujourd’hui a permis le développement de l’application civile de détection des avalanches , et c’est tant mieux. Pour moi ce projet avait été l’occasion de découvrir un peu l’acoustique, mais j’y repense surtout lorsqu’on parle de recherche militaire, ou de financement de recherches par l’armée.

Souvent une même découverte débouche à la fois sur des applications civiles et militaires. Vouloir empêcher l’application militaire, c’est parfois retarder, voire condamner l’application civile car c’est un fait : les militaires ont du soutien politique, et beaucoup d’argent qu’ils sont prêts à investir très en amont, en prenant beaucoup de risques. Ils ne veulent pas forcément bloquer l’application civile ni même un retour sur investissement, ils veulent juste être les premiers à utiliser la technologie. Si ça ne concerne pas directement des armes ou ne soulève pas de gros problème éthique, pourquoi se priver d’un financement somme toute tout aussi étatique que les fonds pour la recherche nationale ?

Références:

, site web de la solution commerciale
Chritin, V., & Rossi, M. (1995). “ ”. Symposium International Sciences et Montagne, Les Apports Scientifiques à La Sécurité Neige, Glace et Avalanches. http://infoscience.epfl.ch/record/96418
Olivier Le Calvé “ ”
Chritin, V., Van Lancker, E., Wellig, P., & Ott, B. (2016). High infrasonic goniometry applied to the detection of a helicopter in a high activity environment. In SPIE International Society for Optics and Photonics SECURITY + DEFENCE Conference (Vol. 10, p. 999703). Edinburgh, United Kingdom: SPIE International Society for Optics and Photonics. DOI>

Pour la Science de Décembre

Sun, 07 Dec 2014 00:00:00 +0000

D’habitude je déguste mon numéro de “Pour la Science” petit à petit pendant le mois. Mais là j’ai dévoré le en quelques heures de voyage en train : il est plein d’articles passionnants sur des sujets très variés.

Dans “ ”, Niayesh Afshordi, Robert Mann et Razieh Pourhasan de l’ proposent une idée assez stupéfiante : notre univers à 3 dimensions serait issu de l’effondrement d’une étoile à 4 dimensions en trou noir… Selon eux, mathématiquement du moins, l’horizon des événements d’un trou noir à 4 dimensions correspond notre univers à 3 dimensions, ce qui permet d’éliminer la “singularité” des trous noirs et du Big Bang en même temps, et de ne plus avoir besoin de postuler une . Je ne sais pas vraiment quoi penser de cette théorie qui me sembler qu’elle n’en résout, mais comme je suis en train de lire Lee Smolin (2014). La Renaissance du Temps: pour en finir avec la crise de la physique. Dunod. qui la pousse encore plus loin, j’en reparlerai plus tard.

L’article “ ” m’a littéralement scotché. Kim Ta Phuoc, Cédric Thaury (tous deux du ) et Sébastien Corde y expliquent comment faire un de quelques mètres de long, et à la différence de l’article précédent, l’expérience a été faite, et ça marche ! Le principe est l’ : un laser produisant des impulsions extrêmement puissantes mais tout aussi extrêmement brèves. En traversant un , l’impulsion crée des ondes de densité dans le champ électrique un peu comme un bateau crée des vagues de sillage, et sur ces vagues, les électrons du plasma se mettent à “surfer”, accélérant à plusieurs centaines de MeV en quelques millimètres seulement au lieu des kilomètres requis avec un accélérateur “classique”.

Le champ électrique qui se forme dans un gaz atomique derrière une impulsion laser ultrabrève est montré ici sous la forme de vagues bleues que descendent des paquets d’électrons en voie d’accélération. C’est le principe des accélérateurs laser-plasma. (illustration Pour La Science)

Par un mécanisme que je n’ai pas bien compris, tous les électrons accélèrent en fait en zigzaguant à la même fréquence, et à chaque virage émettent chacun un photon à haute énergie. On obtient ainsi des impulsions de voire d’une très bonne qualité, et dont la brièveté est un avantage dans beaucoup d’applications. Outre la radiothérapie, on devrait arriver bientôt à faire de la sur des molécules organiques délicates, voire “in vivo”. Et quand les physiciens se mettent imaginer comment filmer des molécules dont les liaisons chimiques seraient brisées une à une, je deviens juste impatient de voir ça !

“ ” est un peu la réponse du berger à la berger : “mon est plus puissant que ton laser-plasma”, expliquent Nora Berrah et Philip Bucksbaum. Ils décrivent comment un projet militaire de “guerre des étoiles” démarré sous Reagan a (tout de même…) résulté en quelque chose d’utile sous la forme du LCLS qui a été ajouté à l’accélérateur linéaire de Stanford pour devenir la plus intense source de rayons X artificiels. Une des applications les plus sidérantes de l’engin est la production d’ “atome creux”. C’est un phénomène incroyable : les sont transparentes aux rayons X, sauf la couche K, la plus interne. En exposant un atome à un flux de rayons X, les deux électrons de cette couche se font “souffler” hors de l’atome, qui devient “creux”. Deux électrons de la couche L juste supérieure vont tomber à la couche K, créant un vide de deux électrons rempli par 2 électrons de la couche M etc. Mais si le rayonnement X est suffisamment intense, la couche K se fait “souffler” au fur et à mesure, et l’atome perd tous ses électrons “par l’intérieur”. Ca s’appelle la “relaxation Auger”, ça ne dure que quelques secondes, et là encore les physiciens pensent arriver à “filmer” le phénomène à l’aide d’impulsions X ultra brèves.

“ , le jeu se poursuit” est un hommage au génial auteur de qui aurait eu 100 ans cette année. Sa rubrique était l’une des raisons pour lesquelles je piquais les “Pour la Science” de mon père jusqu’en 1981. il m’a fait découvrir le et le entre autres choses qui m’intéressent . L’article montre aussi comment cet autodidacte a saisi l’opportunité d’un article (sur les ) pour consacrer sa vie à sa passion en développant une correspondance épistolaire fertile en articles passionnants avec des gens aussi variés que Dali etc… Je suis très heureux d’ que cette ouverture se perpétue jusqu’à Jean-Paul Delahaye qui tient la rubrique actuellement.

Jean-Paul se demande ce mois-ci sil existe “ ” La d’Howard Gardner se heurte à la vision des informaticiens d’une seule intelligence, testable par le , voire quantifiable par des taux de compression des données comme l’a proposé . Dans cette optique, propose une mesure mathématique universelle d’intelligence : “la réussite moyenne d’une stratégie dans l’ensemble des environnements envisageables.” (voir ). Séduisant, mais pas facile à mesurer en pratique. En attendant une meilleure idée, Hutter propose un à partager entre les auteurs de programmes capables de comprimer le contenu de la Wikipédia le mieux possible. Il explique est que pour bien comprimer (=résumer) des données, il faut les comprendre. Je vais évidemment m’attaquer à ce challenge, je vous en recauserai en 201x …

Intelligence toujours dans “ ” où Anna Smet, Catherine Hobaiter et Richard Byrne font le point sur les capacités cognitives des pachydermes. Il s’avèrent qu’ils sont capables de distinguer les ethnies des humains d’après l’habillement, de reconnaître plus d’une centaine de congénères d’après les infrasons qu’ils produisent, et il semblerait bien que ce soit les seuls animaux qui aient certains égards pour les squelettes de leurs ancêtres. Un article émouvant et qui pousse évidemment à la réflexion sur nos intelligences naturelles et artificielles.

Pour terminer sur une note ludique, nos signent un article sur les “ ” type Beyblade qui enchantent nos bambins. (c’est encore la mode cette année ?) Les caractéristiques des toupies leurs confèrent des avantages et inconvénients à bien balancer par rapport aux toupies adverses lors d’un combat. Me suis demandé si des ne rendraient pas le jeu encore plus “intéressant”…

Bref, que des bonnes choses dans ce numéro. Foncez chez votre marchand de journaux !

Trop-plein de Juin

Sun, 29 Jun 2014 00:00:00 +0000

Les articles que je n’ai pas eu le temps de finir ce mois-ci.

La disparition de la vie sur Terre

Celui-là je l’ai fini, mais . J’ai appris plein de choses extraordinaires sur les en l’écrivant et je voulais en faire une version “pour les grands ici”, avec des liens, des références etc. Mais finalement l’article sur Kidi’Science peut vous convenir aussi, et je vais plutôt écrire sur l’ à l’occasion.

Foundations of Ultraprecision Mechanisms Design

Retrouvé avec délice une authentique bible de la microtechnique de précision : Stuart T. Smith (1994). Foundations of Ultra-Precision Mechanism Design (Developments in Nanotechnology, Vol 2). CRC.

Le chapitre le plus intéressant est le huitième, consacré à la . On y montre que les caractéristiques habituelles des matériaux (densité, module d’élasticité, conduction thermique etc.) interviennent rarement seules lorsqu’on cherche un matériau adapté à la construction d’un système pointu. Beaucoup plus souvent on a besoin d’un compromis entre plusieurs de ces caractéristiques que l’on peut représenter dans un “diagramme d’ ” comme celui ci-dessous:

Le livre va plus loin en normalisant les matériaux par rapport à un matériau de référence, ce qui permet de comparer facilement les matériaux entre eux.

Pour la petite histoire, c’est grâce aux tables figurant dans ce chapitre que j’avais convaincu mon chef de faire une . Le titane, c’est plus cher que l’acier au kilo, mais comme son σ/E est deux fois meilleur que celui de l’acier ressort, une pièce flexible en titane peut être 2x plus petite dans toutes les dimensions, donc 8 fois moins volumineuse et grâce à sa faible densité presque 15 fois moins lourde qu’en acier.

(Edit du 14.7.2014 : j’ai recréé )

(Edit du 15.1.2015 : trouvé le logiciel de la société Granta basé sur les travaux d’Ashby)

Pourquoi ne pas faire confiance à une calculatrice

David Madore donne sur son blog un avec la plupart des calculatrices : sin((1+√2)200×π)

Je ne connaissais pas cet exemple mais effectivement toute formule dans laquelle intervient un très grand nombre ou un très petit est potentiellement dangereuse à cause des erreurs d’arrondi. Je repense toujours à “ ” lorsqu’un tel risque pourrait exister dans mon code…

J’ai tout de même essayé Python sur l’exemple de David, avec un résultat faux, sans surprise. Par contre ma calculatrice préférée m’a un peu déçue : elle a renvoyé NaN (Not a Number) alors qu’elle est censée travailler avec autant de décimales que nécessaire. En creusant j’ai vu qu’elle arrive “presque” car

(sqrt(2)+1)^200 donne 35903523178476671398039972962187754894463006960216912732142716329467686943874.003

mais ensuite elle n’arrive pas à calculer le sinus de ça *pi.

Le seul outil que j’utilise (pas assez apparemment) qui m’ait donné la “bonne” valeur est (donc Mathematica doit probablement s’en sortir aussi):

Requins-baleines, touristes et Rolex awards

Sinon j’ai vu un reportage extraordinaire sur les requins-baleines et j’avais commencé un article en traduisant le communiqué de presse ci-dessous:

En 2006, les ont , un scientifique australien spécialiste de la conservation marine, des en particulier. Dès 2004, il créé un système d’identification de ces géants des mers par les photos prises par les habitants des côtes, les plongeurs, et les touristes assez chanceux pour les croiser.

Après dix ans d’activité de son projet , environ 5000 individus ont été identifiés, grâce à plus de 25'000 observations et 50'000 photos, faites dans 54 pays. Une centaine de requins-baleines de plus sont identifiés chaque année Par comparaison, entre le 19ème siècle et le milieu des années 1980, seules 350 observations avaient été faites de ce mystérieux animal. C’est donc un franc succès pour Brad Norman, qui se félicite autant pour cette nouvelle masse de données que pour l’intérêt de l’opération pour la sensibilisation du grand public à la protection de la faune.

“Le nombre de personnes qui ont contribué à la base de données d’observations de requins-baleines dépasse les 4000, dans des pays aussi distants que le Qatar et Israel, la Thaïlande l’Australie et les Galapagos” selon Norman. Il a joué un rôle crucial dans l’étude de cette espèce grâce à une méthode innovante pour identifier les requins-baleines, en utilisant un algorithme développé pour cartographier les étoiles que ses collègues, dont un astronome de la NASA, ont adapté pour reconnaître les taches blanches spécifiques à la peau de chaque individu.

Tout le monde est encouragé à prendre des photos des requins-baleines dans l’océan et de les uploader sur le site web, ce qui permet de tracer les déplacements des animaux. “C’est une excellente manière d’impliquer le public, spécialement les enfants” explique Norman. “Nous identifions de nouveaux requins baleines chaque année. En 2011, 500 nouveaux animaux ont été identifiés. En 2012, le nombre a été de 722, et en 2013, 774 ont été identifiés.

L’équipe de chercheurs a décidé de renforcer cette stratégie en mettant au point une application smartphone. Cette appli, qui devrait être lancée courant 2014, permettra de prendre une photo sous-marine d’un requin baleine puis de la télécharger directement sur le site du projet.

source :

L'espace infini entre les mots

Sun, 18 May 2014 00:00:00 +0000

Bon, ça fait juste trop longtemps que je fais toutes sortes de choses passionnantes au lieu d’avancer sur les 4 ou 5 brouillons d’articles pour ce blog… Alors je vous livre en vitesse une traduction du dernier article du blog Coding Horror, intitulé “ ” . Je le trouve excellent (l’article, et le blog) :

La performance des ordinateurs est une sorte de Vous êtes toujours en train d’attendre l’une de ces 4 choses:

Disque
Processeur
Mémoire
Réseau

Mais laquelle ? Et combien de temps faudra-t’il attendre ? Et que faire pendant que vous attendez ?

Avez-vous vu le film ? Si non, vous devriez. Il est bien. L’une de mes scènes préférée est quand l’ décrit comme il devient difficile de communiquer avec les humains :

C’est comme si je lisais un livre… c’est un livre que j’aime profondément, mais je le lis si lentement, maintenant. les mots sont loin les uns des autres, l’espace entre les mots est presque infini. je peux toujours vous ressentir… et les mots de notre histoire … mais cet dans cet espace sans fin entre les mots que je me trouve maintenant.. C’est un endroit qui n’est pas dans le monde physique. C’est là où se trouve tout ce dont j’ignorais l’existence. je vous aime tant. Mais c’est là que je suis désormais. Et c’est ce que je suis désormais. Et j’ai besoin que vous me laissiez partir. Même si je le voulais, je ne peux plus vivre votre livre plus longtemps.

J’ai de sérieuses réserves sur l’environnement de travail décrit dans “Her”, où tout le monde passe toute ses journées à murmurer frénétiquement à son ordinateur, mais il y a une très profonde vérité dans cette scène clé. C’est que l’espace infini “entre” ce que nous autres humains ressentons comme le temps est l’ “endroit” où les ordinateurs passent tout leur temps. C’est une échelle de temps totalement différente.

Dans le livre “Systems Performance: Enterprise and the Cloud” se trouve une table qui illustre très bien l’énorme différence entre ces différences de temps. Ramenons tout à l’échelle de la seconde:

1 cycle	0.3	1 s
accès au [cache]( émoire_cache) L1	0.9 ns	3 s
accès au cache L2	2.8 ns	9 s
accès au cache L3	12.9 ns	43 s
accès à la	120 ns	6 min
entrée/sortie à un disque [SSD]( )	50-150 μs	2-6 jours
entrée/sortie à un	1-10 ms	1-12 mois
Internet: San Francisco - New-York	40 ms	4 ans
Internet: San Francisco - Angleterre	81 ms	8 ans
Internet: San Francisco - Angleterre	183 ms	19 ans
[Reboot]( ) d’un OS [virtualisé]( )	4 s	423 ans
time-out d’une commande	30 s	3000 ans
Reboot d’un ordinateur virtualisé	40 s	4000 ans
Reboot d’un ordinateur physique	5 m	32 millénaires

Les temps “internet” ci-dessus sont quelque peu optimistes. Si vous consultez , le temps de San Francisco à New-York est plutôt autour de 70ms. Je vais donc doubler les valeurs internet de ce tableau.

La est une chose, mais il faut aussi considérer .

A ce propos, le grand , avait une . Si on ramène ces temps à des distances où se trouvent les données à accéder, alors un accès à un disque est équivalent à chercher des données sur Pluton.

il se référait probablement aux traditionnels disques rotatifs rouillants, alors ajustons ces points extrêmes à la situation d’aujourd’hui :

Distance à Pluton : 7.5 milliard de kilomètres.
Meilleure performance d’un disque rotatif ( ) par rapport au meilleur disque SSD PCI Express ( ). C’est 10x mieux
Nouvelle distance : 750 millions de kilomètres
Distance à Jupiter : 750 millions de kilomètres

Donc, au lieu d’aller jusqu’à Pluton pour chercher nos données en 1999, aujourd’hui nous n’avons plus besoin que d’aller jusqu’à Jupiter.

Ceci pour la performance des disques en une décennie. Et quelle est laccélération des processeurs, de la mémoire et des réseaux dans ce même temps ? Est-ce qu’une amélioration d’un facteur 10 ou 100 fait vraiment une différence dans ce grand espace infini de temps dans lequel les ordinateurs travaillent ?

Pour les ordinateurs, nous autres humains vivons dans une échelle de temps totalement différente, presque un . Ce qui déforme notre perception. Plus les ordinateurs vont vite, plus cette disparité de temps s’accroît.

Références:

Jeff Atwood, “ ”, 2014, Coding Horror
Brendan Gregg (2013). Systems Performance: Enterprise and the Cloud. Prenctice-Hall.
Jim Gray, “ ”, 1999,

Bits en vrac

Wed, 09 Apr 2014 00:00:00 +0000

Quelques découvertes informatiques en vrac

Les formulaires Google Drive

Le m’a permis d’expérimenter la puissance et la facilité d’utilisation des . C’est simplement génial :

dans , on crée un document de type formulaire
on se retrouve dans un éditeur permettant de composer le formulaire. On peut définir le type de chaque champ : texte, choix multiple, cases à cocher, échelle d’évaluation, tout y est. On peut ajouter des règles de validation et des actions à effectuer en fonction des réponses

Editeur de Formulaire Google Drive
En cliquant le bouton “afficher le formulaire en ligne” on peut voir à quoi ça ressemble pour les utilisateurs et même tester le système, car la collecte des réponses est immédiate : rien à faire de particulier !
Lorsque le formulaire est prêt, il suffit d’envoyer le lien disponible par “Envoyer le formulaire” à des personnes choisies, ou d’intégrer la page sur un site web dans un . Plusieurs blogs du C@fé des sciences l’ont même fait simultanément sans aucun problème car le formulaire n’existe en réalité (virtuelle…) que chez Google.
Les réponses sont automatiquement collectées dans un document “tableur” sur Google Drive : une ligne est créée pour chaque formulaire rempli, chaque colonne correspondant à un champ. Notez la colonne “horodateur” remplie automatiquement, bien utile.

Table des résultats

Ce que j’ai trouvé assez impressionnant est que l’on peut modifier le tableau sans perturber les votes suivants. Apparemment chaque champ du formulaire est attaché à une colonne par un lien invisible, mais solide : même si on ajoute ou déplace des colonnes, les réponses suivantes restent cohérentes avec les réponses précédentes. Pour le quiz, j’ai ajouté la ligne 2 avec les bonnes réponses ainsi que la colonne D Score. Notez au passage la géniale formule qui compte le nombre de réponses correctes avec et sumproduct. Elle n’est pas de moi, et il parait qu’elle est possible aussi en Excel…
résumé des réponses

Une petite dernière pour la route : dans le menu “Formulaire” on peut “afficher le résumé des réponses” qui présente les résultats sous une forme graphique qui peut être bien utile.

Les formulaires Google Drive permettent de réaliser facilement des sondages, quiz et concours divers avec toute la puissance et la sécurité (…) de l’infrastructure Google. Ca fait déjà des dans le C@fé …

Curation V.3.0‎

Rien à faire, il n’y a toujours pas mieux pour suivre les sites intéressants que les . J’ai longtemps utilisé avec lequel j’ai commencé à faire de la . En effet, en cochant simplement les articles que je trouvais intéressants, Google Reader les agrégeait dans un flux RSS “de sortie” que je pouvais publier sur .

Puis Google a annoncé la fermeture de Reader (toujours incompréhensible pour moi) et j’ai utilisé . C’était une bonne idée : Scoop.it permet d’agréger non seulement des flux RSS, mais aussi des tweets, le contenu de pages Facebook et de recherches Google. On peut créer ainsi plusieurs “topics” thématiques, et de jolis widgets comme celui ci-contre à droite. Mais le point fort de Scoop.it, c’est ses possibilités de partage : chaque contenu “scoopé” peut être partagé automatiquement sur Twitter, Facebook, Gogle+ et Tumblr, entre autres.

Scoop.it, c’est vraiment bien, mais … il y a un problème rédhibitoire : les liens du contenu partagé sont modifiés pour conduire les visiteurs sur la page Scoop.it du topic, et pas directement vers l’article original. Ceci a trois conséquences que je trouve gênantes:

La première n’est pas trop grave : les lecteurs doivent cliquer deux fois pour arriver à l’article qui les intéresse, une fois sur la page où ils voient le contenu partagé, puis une seconde fois sur la page Scoop.it.
La seconde fausse les analyses de trafic, qui semble provenir de Scoop.it plutôt que du site de partage. Ainsi par exemple mon site a accueilli plus de 2000 visiteurs passés par Scoop.it en un an sans qu’il me soit possible de déterminer où ces 2000 personnes ont initialement découvert l’article qui les intéressait.
La troisième touche le droit d’auteur : les outils de partage qui changent les liens diffusent le contenu d’autrui en coupant le lien vers la source, qui est parfois le seul élément identifiant l’auteur. Je me suis soudain aperçu que “rebloguait” automatiquement les articles que je trouvais intéressants, parfois en me les attribuant implicitement puisqu’il n’y avait plus de mention du site original.

Je me suis donc mis en chasse de nouveaux outils de curation, et après quelques essais j’ai choisi le “trio de la curation V.3” :

comme agrégateur de flux. Il offre grosso-modo les fonctionnalités de Google Reader, une , plus une (en fait un plugin d’un agrégateur plus général). Chaque jours je parcours une centaine d’articles en sautant d’un à l’autre en pressant la touche \[j\], et si je le trouve intéressant je le lis et je presse \[s\]comme “star”. Ca le marque comme favori et l’ajoute à mon .
Je pourrais utiliser directement CommaFeed pour partager le contenu sur Facebook, Twitter, Google+ et autres (mais pas Tumblr). Mais surtout, il me faudrait le faire manuellement : 6 ou 8 clicks de plus, c’est trop. Alors j’ai utilisé , un service qui permet d’automatiser des tâches internet en créant des “recettes” de la forme If This Then That . J’ai ainsi créé des “recettes” qui partagent automatiquement le contenu de mon flux de sortie vers mes pages Facebook, Google+, App.net et Tumblr. Automatiquement. Rien d’autre à faire :-) (Pour Twitter j’hésite encore…)
Et j’utilise toujours Scoop.it pour atteindre les utilisateurs de cette plateforme et profiter des beaux widgets, mais je n’utilise plus les outils de partage. En attendant qu’IFTTT permette de “scooper” automatiquement, j’utilise le flux de sortie comme unique source dans Scoop.it et je “scoope” à la main tout ce que j’ai préalablement sélectionné dans CommaFeed.

Tout ça ne me demande en définitive pas plus d’efforts que de tourner les pages d’un journal en papier, et je peux me concentrer sur la lecture tout en gardant une trace dont vous pouvez profiter où vous le souhaitez.

NetworkX

est une librairie Python permettant de représenter et traiter des problèmes de graphes. Je l’utilise professionnellement assez intensivement ces temps-ci pour un , mais l’autre jour il m’a permis de résoudre le du en quelques lignes seulement. En fait la plupart servent à lire le fichier des données, puis la partie intéressante tient en une seule ligne :

\[source lang="Python"\]

print G.size(weight=‘weight’) - minimum_spanning_tree(G, weight=‘weight’).size(weight=‘weight’)

\[/source\]

Fort non ? Hélas il me semble que peu de problèmes du Project Euler concernent les graphes, donc je ne vais pas pouvoir améliorer mon score rapidement …

2048

Cet article serait paru il y a trois jours si je n’étais pas tombé sur , le jeu addictif du moment. C’est un jeu tellement simple qu’il aurait du être inventé avant Pac-Man. Et on voit tout de suite comment faire : placer les puissances de 2 les unes à côté des autres pour former une chaîne croissante et propager ainsi les sommes pour arriver à former enfin, après 1024 coups au minimum, la tant convoitée pièce 2048. Il m’a fallu 3 jours. Enfin 3 soirs. 3 nuits…

A un certain moment j’en ai eu marre et voulu utiliser la bonne vieille méthode pour résoudre les problèmes compliqués : programmer. Mais Matt Overlan a été plus rapide et efficace : et est très instructif. Je crois que c’est la première fois de ma vie qu’un ordinateur m’apprend à résoudre un casse-tête plutôt que l’inverse. Peu après avoir observé le solveur parvenir au 2048, j’ai appris à dominer ma tentation d’additionner coûte que coûte les nombres les plus élevés et à conserver des lignes ou des colonnes de 4 cases “bloquées”, et j’ai gagné.

Après certains passent au voire au , mais je crois que je vais plutôt attaquer la version “ ” de Valentine. Un peu déroutant de prime abord, mais j’aime beaucoup l’idée un peu holiste qu’il y a là derrière… Bravo !

Répartition proportionnelle

Mon, 02 Dec 2013 00:00:00 +0000

Voici un petit problème qui se présente assez fréquemment sous diverses formes, et pour lequel j’ai été surpris de ne pas trouver de solution bien documentée.

Le cas le plus simple apparaît souvent dans les tableurs : en calculant des pourcentages arrondis, le total ne fait parfois pas 100%. En effet, rien ne garantit que les arrondis “vers le haut” compensent ceux “vers le bas”. Autrement dit, une somme d’arrondis n’est pas égale à la somme arrondie.

Autre exemple assez différent en apparence. Un berger veut répartir ses moutons sur sa parcelle carrée d’un hectare où il veut faire paître a moutons, son parc rond de π hectares qui peut en accueillir b, et les c restants sur la parcelle louée à son voisin le père Néper, qui fait hectares, de manière à ce que chaque mouton ait la même surface à brouter. Sur les conseils de l’instituteur du village, il commence par écrire la petite équation a.(1+π+e) = 1548 pour obtenir a = 225.66 puis b=708.93 et c=613.41, mais ensuite, comment arrondir chacun de ces nombres vers le haut ou le bas de façon à obtenir exactement un total de 1548 et que les rapports b/a et c/a restent respectivement proches de π et de e ?

C’est en planchant sur un problème de ce type que m’est venue une idée : utiliser une méthode du !

Certains parlements comme le sont élus à la “proportionnelle par liste” : le nombre de sièges étant fixé, on commence par répartir ces sièges entre les partis proportionnellement aux nombre de listes portant l’entête d’un parti choisies par les électeurs. Dans une deuxième phase, les n candidats ayant reçu le plus de voix de chaque parti sont élus aux n sièges attribués à leur parti, mais ceci n’est pas le sujet ici.

La phase de répartition des sièges entre partis rencontre exactement les difficultés liées aux arrondis mentionnées plus haut, et comme l’enjeu est d’importance politique, le problème a été non seulement étudié depuis longtemps, mais les solutions sont mêmes formalisées dans les lois régissant le système électoral de bon nombre d’Etats (voir par exemple). Le hic, c’est qu’il n’y a pas une seule solution définitive mais plusieurs, chacune avec ses avantages et inconvénients.

Représentation graphique de la méthode de Hare avec 3 partis

La “méthode de ” est la plus simple des méthodes dites “du plus fort reste”. On commence par calculer un “quotient électoral” en divisant le nombre total de votes valides par le nombre de sièges à pourvoir. Dans le cas d’une élection on obtient en principe un nombre assez grand, mais pour les prés de notre berger, on a: q = (1+π+e)/1548 = 0.004431 , ce qui n’est autre que la surface à brouter par chaque mouton.

Puis on effectue la (ou entière) du nombre de votes obtenus par chaque parti par ce nombre q. Peu importe que dans notre cas, les votes soient remplacés par des nombres réels, l’important est que l’on souhaite diviser un nombre entier en entiers suivant cette proportion.

On commence par ne considérer que les quotients des divisions entières (notées // en Python) et assigner a = 1//q = 225, b = π//q = 708 et c = e//q = 613 moutons aux trois champs. Mais a+b+c ne totalisant que 1546 moutons, il reste à attribuer les moutons restants aux deux “plus fort restes” des divisions entières. Dans notre cas, 1-a.q = 0.0029, π-b.q = 0.0041 et e-c.q = 0.0018, donc on alloue un mouton de plus aux champs b et a pour obtenir finalement a=226, b=709 et c=613.

La méthode de Hare souffre d’un défaut appelé : le fait d’augmenter de 1 le nombre de sièges/moutons peut dans certains cas faire diminuer de 1 le nombre alloué à l’un des partis/prés, ce qui est illogique. De plus, la méthode de Hare avantage les petits partis qui pourraient gagner leur seul élu au plus fort reste. Les grands partis pourraient même être tentés de déposer plusieurs listes pour gagner des sièges, c’est pourquoi les législations introduisent souvent un quorum ou “seuil de représentativité” sous la forme d’un pourcentage minimum de votes à atteindre pour qu’une liste soit prise en considération*.

On peut diminuer la probabilité d’apparition de ces défauts à l’aide d’une astuce due à (1833-1910), scientifique suisse qui proposa de calculer le “quotient électoral” en divisant le nombre total de votes valides par le nombre de sièges à pourvoir augmenté de 1. Le “quotient de Hagenbach-Bischoff” vaut dans notre cas q = (1+π+e)/(1548+1) = 0.004429. La différence par rapport à la méthode de Hare est très faible, mais suffit à répartir 225+709+613=1547 moutons du premier coup, n’en laissant qu’un à attribuer au parti/pré a puisqu’il présente le reste de division le plus élevé, ce qui nous donne le même résultat qu’Hare dans ce cas précis : a=226, b=709 et c=613

Représentation graphique de la méthode D’Hondt avec 3 partis

Il existe d’autres variantes de quotients électoraux (de Droop, de Imperiali), ainsi que des méthodes dites “ ” dans lesquelles on attribue un des sièges restants au parti dont la moyenne des votes/sièges est la plus élevée, puis on recommence tous les calculs jusqu’à ce que tous les postes soient attribués. L’une des plus utilisées, y compris en France pour les élections au Parlement Européen, est est la méthode du belge D’Hondt, connue pour avantager les grands partis, alors que celle du français Sainte-Laguë qui représente mieux les petits partis est plutôt utilisée en Allemagne et au Nord de l’Europe…

Mais revenons à nos moutons : la méthode Hare suffit parfaitement à mon problème, mais le quotient de Hagenbach-Bischoff ajoute un petit plus de science helvétique qui me plaît assez…

J’ai donc codé la méthode du plus fort reste exportable en Excel. Trois onglets résolvent le cas des 1548 moutons, celui des pourcentages du début de l’article, et celui du scrutin proportionnel utilisé comme exemple dans la et qui donne des résultats différents selon le quotient électoral ( Hare, Hagenbach-Bischoff ou Imperiali) choisi. Pour les curieux, la cellule F1 utilise la fonction Excel LARGE, en français pour obtenir la n-ième plus grande valeur des restes calculés dans la colonne E, où n est le nombre de sièges restant à attribuer. Ensuite un simple test permet de déterminer dans la colonne F si un siège/mouton/pourcent doit être ajouté.

Le “bug connu”, c’est qu’en cas d’égalité des restes il se pourrait qu’on en ajoute trop, mais je ne sais pas trop comment empêcher ceci en Excel sans macro… Par contre ce problème est évité dans que j’ai réalisée pour mon application:

\[gist id="7531147"\]

Si vous trouvez ce code utile ou intéressant, vous pouvez voter pour à une question sur StackOverflow, ça me fera une voix de plus en attendant un siège …

Note : * à mon humble avis le quorum devrait donc être approximativement égal à 1 / le nombre de sièges à pourvoir, donc autour de 1% plutôt que 5 ou 7% dans certains parlements…

Références:

" "
David Madore “ ”, 10 juin 2009

La programmation, latin du futur ?

Sat, 07 Sep 2013 00:00:00 +0000

Dans un récent article Anna Lietti fait le point sur une question qui fait son chemin un peu partout:

Pour former des citoyens «informatiquement éclairés»*, l’école doit-elle enseigner à tous le b. a.-ba de la programmation?

Selon certains comme , les enfants du numérique ont une “expérience rusée” du fonctionnement des machines, mais leur approche intuitive approche vite ses limites et ne leur permet pas de dominer la machine. Or cette domination est nécessaire pour contrôler notre monde, de plus en plus automatisé, numérique et interconnecté. On le voit avec l’affaire : contrôler , c’est avoir le pouvoir sur ses utilisateurs…

Des précurseurs comme (élève de ) se sont intéressés dès les années 1960 à la pédagogie de l’informatique et inventé des outils comme le pour initier à l’algorithmique et à la programmation procédurale dès l’enfance. Pourtant, 50 ans plus tard, aucun pays n’intègre la programmation au cursus scolaire primaire, peu le font au niveau secondaire, et la branche y est rarement obligatoire.

En Grande-Bretagne, suite à un rapport de la Royal Society intitulé “Shut down or restart” qui jugeait l’enseignement de l’informatique tellement insatisfaisant qu’il vaudrait mieux ne rien faire, la décision a été prise d’initier les enfants dès 5 ans à la programmation dès la rentrée 2014 et que la programmation devienne une branche obligatoire du baccalauréat au même titre que la physique ou la chimie.

En France aussi, un récent rapport de l’Académie des Sciences vient de recommander d’aller plus loin que la récente (ré)introduction de la spécialité “ ” en terminale S , en incluant “une initiation aux concepts de l’informatique” dès l’école primaire , puis “un véritable enseignement d’informatique, qui ne soit pas noyé dans les autres enseignements scientifiques et techniques, mais développe des coopérations avec ceux-ci dans une volonté d’interdisciplinarité” au collège, puis “proposer un enseignement obligatoire d’informatique en seconde” au lycée.

Plusieurs initiatives se développement également en Suisse, notamment:

le Prof. Juraj Hromkovic avec son module “ ”, adopté dans une trentaine d’établissements en Suisse alémanique
Jürg Kohlas, qui promeut l’enseignement de l’informatique comme discipline fondamentale au gymnase (=lycée) dans un livre tout récent , en recommandant de commencer par former les professeurs, un problème qui semble général…
un "script" en Scratch

Manuela Barraud et Olivier Jorand proposent des ateliers de “ ” combinant programmation et robotique ludique dans la continuation de la “philosphie Logo”, mais ils forment aussi des enseignants à leur approche. Outre Logo, ils utilisent le langage semi graphique développé au MIT pour les enfants dès 7 ans.

Pour ma part, voici les quelques leçons que je tire de ma maigre expérience de l’enseignement de la programmation des deux côtés de la barrière:

Pas facile d’être prof. quand certains élèves maîtrisent mieux le sujet. Il faut une formation en béton, et si possible conserver le choix des armes…
La robotique est très motivante pour les jeunes. Avec juste une boucle et quelques tests on peut faire bouger quelque chose de concret alors que sur un écran il faut beaucoup plus de code pour faire quelque chose d’un tant soit peu excitant.
Mais les robots c’est cher et délicat, alors les environnements virtuels en 3D sont un bon compromis : ils conservent un rapport résultat visuel/code élevé tout en ouvrant des possibilités amusantes comme sans que la SPA ne proteste ( ), ou monter un canon sur un robot sans occasionner trop de dégâts ( testé avec succès au )
L’âge minimum pour s’intéresser à la programmation est celui où l’enfant est capable de comprendre la notion de . Je dirais expérimentalement vers 10 ans. Les boucles, les tests, même les sous-programmes et les fonctions peuvent encore passer plus tôt avec des choses comme “POUR CARRE : REPETE 4 \[AV 100 TD 90\]: FIN”, mais c’est peut-être justement une raison de l’échec de la programmation au primaire : sans la capacité d’abstraction nécessaire pour associer une information (nombre, texte etc…) à un symbole, on est très vite limité. Or cette n’est introduite, sauf erreur, que vers 10-12 ans, et n’est pas assimilée facilement par tous. Imaginez alors la pagaille dans les esprits si le prof de maths dit que “x=2*x-1 a pour solution x=1” et l’heure d’après celui d’informatique dit que “x=x+1 incrémente la valeur de x” …
Il est très difficile de découpler l’enseignement de la programmation de celui des maths. En particulier pour la robotique ludique (réelle ou virtuelle) on a très rapidement besoin des vecteurs, de la trigonométrie, voire de notions d’intégration et dérivation pour passer des vitesses aux positions ou vice-versa.

Donc je ne crois pas à l’introduction de la programmation au primaire. Et sans programmation, pour quoi “faire de l’informatique” ? Et plus tard, au collège et au lycée, à quoi bon enseigner la programmation si on ne veut pas former des armées de programmeurs ?

La programmation, latin du futur ?

C’est un paragraphe de l’article qui a particulièrement retenu mon attention :

L’idée n’est donc pas de former de futurs programmeurs, mais d’initier les enfants à un langage programmatique** simple pour les familiariser avec la logique informatique. Les adeptes de cet enseignement ne tarissent pas d’éloges sur ses vertus pédagogiques. La programmation apprend à penser un problème jusqu’au bout, à construire des processus qui marchent en apprenant de ses erreurs. (…)

Et encore: le langage informatique enseigne à penser logiquement et systématiquement. «Peu de disciplines nécessitent une telle rigueur mentale», observe Jürg Kohlas. Bien sûr, les langues programmatiques** sont multiples et mouvantes. Mais quand on en a appris une, il est facile de se familiariser avec les suivantes.

Ça ne vous rappelle rien? Ne croirait-on pas entendre parler du latin? «La programmation est bel et bien un langage avec un vocabulaire, une grammaire, une syntaxe, acquiesce Juraj Hromkovic. Mais il y a une grosse différence avec les langues naturelles: la plupart des gens ne savent même pas qu’ils ont affaire à un langage.»

Dans mon esprit de lycéen des années 1980, la programmation n’avait rien, mais alors RIEN à voir avec la langue morte infligée aux fils d’avocats par des curés nostalgiques. Mais avec le recul, je partage le point de vue de gens qui connaissent le latin et la programmation comme Tyler Plack ,

Ecrire en latin ou programmer un ordinateur requièrent tous deux une compréhension qui dépasse la pensée humaine complexe et la simplifie. De tels processus sont ce qui nous permet de penser clairement; ils font de nous qui nous sommes.

Donc oui, il faut enseigner la programmation aux lycéens, même si “ça ne sert à rien”, comme le latin. Faut-il en faire une branche obligatoire du bac ? Certainement, au moins pour ceux qui ne font pas de latin.

Parce que combiner les deux peut donner des idées trop bizarres. Damian Conway par exemple en a été perturbé au point d’écrire un module définissant des alias latins pour tous les éléments du langage , ce qui permet de rendre ce code :

\[code lang="perl"\]

use Lingua::Romana::Perligata; maximum inquementum tum biguttam egresso scribe. meo maximo vestibulo perlegamentum da. da duo tum maximum conscribementa meis listis. dum listis decapitamentum damentum nexto fac sic nextum tum novumversum scribe egresso. lista sic hoc recidementum nextum cis vannementa da listis. cis.

\[/code\]

parfaitement valide et absolument équivalent à celui-ci:

\[code lang="perl"\]

print STDOUT ‘maximum:’; my $maxim = ; my (@list) = (2..$maxim); while ($next = shift @list) { print STDOUT $next, “\n”; @list = grep {$_ % $next} @list; }

\[/code\]

Et si après , la programmation permettait de moderniser l’enseignement du latin ?

Notes:

* l’expression est de Jean-Pierre Archambault, président de (qui a un site très moche)

** voilà bien la marque des pédagogues : surtout ne pas utiliser l’expression ” adopté par l’ensemble de la profession… Ou alors la journaliste n’a pas vérifié… (edit : c’est bien ça, Confirmé par anna Lietti…)

Références

Anna Lietti “ ” 2013, L’Hebdo No 34, p. 38-41
Jürg Kohlas, Jürg Schmid, Carl August Zehnder (2013). informatique@gymnase: Un projet pour la Suisse. NZZ Libro. ( )
Steve Furber “ ” January 2012, Royal Society
Académie des Sciences “ ", Rapport de l’Académie des sciences , Mai 2013
Jean-Pierre Archambault “ ”, 2012, l’Etudiant
" ” 2011, Framablog (trouvé grâce à l’image du T-shirt)
Tyler Plack “ ” (sur internet archive)
Damian Conway, “ ”, 2000, School of Computer Science and Software Engineering, Monash University (internet archive)

Combien de processeurs pour un cerveau ?

Mon, 11 Mar 2013 00:00:00 +0000

(article publié dans le cadre de la )

Lancé par dirigée par , le “ ” (HBP) vise à simuler un cerveau humain dans un superordinateur d’ici dix ans. Cet objectif extrêmement ambitieux a paru suffisamment réaliste à l’Union Européenne pour consacrer 1 milliard d’Euro à ce projet mêlant neurosciences et informatique.

Les neurosciences étant traitées par des blogueurs bien plus compétents que moi en la matière, cet article se limite à la partie facile et que je connais un peu : l’informatique. D’ailleurs, Markram et son équipe poursuivent une approche “bottom-up” compatible avec un grand principe de l’informatique :

Tout doit être construit de haut en bas (top-down), sauf la première fois. ( )

Dès la fin des années 1950 les chercheurs ont analysé le fonctionnement de neurones vivants et développé des modèles très simplifiés de neurones ayant débouché sur les très à la mode dans les année 1990 et qui ont permis de grand progrès dans des applications comme la notamment.

Les modèles actuels de neurones isolés sont beaucoup plus complexes et incorporent des modèles moléculaires comme le ou les . La simulation en temps réel d’un seul neurone exige une mémoire d’environ 1 Megabyte pour stocker toutes les variables qui définissent l’ “état” du neurone à chaque instant, et une puissance de calcul de 1 Giga , ce qui correspond:

au super ordinateur de 1985
à un PC de 1999
( ) un bon smartphone actuel

Depuis 2006, le de Markram a simulé non seulement le fonctionnement, mais aussi la croissance d’une (NCC), une structure d’environ 1mm³ comprenant environ 10'000 neurones fortement interconnectés, répartis sur 6 couches. Un superordinateur doté de 8192 processeurs pour un total d’environ 20 TeraFLOPS a été utilisé, ce qui fonde l’hypothèse de l’équipe selon laquelle la puissance et la mémoire nécessaires à la simulation augmentent linéairement avec le nombre de neurones, et heureusement pas avec le nombre de par exemple.

En extrapolant cette tendance linéaire, Markram estime qu’un ordinateur d'1 ExaFLOPS (un milliard de milliards d’opérations par seconde) doté de 100 PetaBytes de mémoire devrait être capable de simuler un cerveau humain contenant 100 milliards de neurones environ. Et en extrapolant aussi la , un tel superordinateur sera disponible en 2018.

D’autres comme , ou même qui simule 32'000 neurones sur votre PC confirment grosso-modo ces ordres de grandeur.

Performance du plus puissant ordinateur (en rouge) au cours du temps selon top500.org

Le lecteur attentif aura remarqué qu’on a “perdu” deux ordres de grandeur en route : 100 milliards de neurones x 1 GigaFLOPS par neurone devraient donner 100 ExaFLOPS, pas 1. L’idée est que les étapes intermédiaires, mesocircuit, puis cerveau de rat, permettront de simplifier la simulation des neurones individuels, voire de la remplacer par un modèle des NCC. Markram considère en effet qu’une NCC est “est au cerveau ce qu’un microprocesseur est à un ordinateur” . Si c’est le cas, alors un cerveau serait l’équivalent d’environ 10 millions de processeurs de 100 GigaFLOPS chacun “seulement” soit un bon PC actuelCependant, les marges d’erreur sont considérables comme on le voit dans la première figure:

il faudra peut-être une puissance 10x supérieure pour tenir compte de la
un autre facteur 10 pour tenir compte des
mais surtout un facteur pouvant atteindre 1000 pour simuler la croissance des neurones, leur par

De plus, l’approche du “Human Brain Project” consiste à initialiser le simulateur avec un cerveau à l’état embryonnaire, puis à le “laisser pousser” en évoluant dans un monde virtuel sur lequel il peut agir par l’intermédiaire d’un corps virtuel , . Il faudra donc des années pour que la simulation converge vers un cerveau adulte si on ne parvient qu’à une simulation “temps réel”. Pour pouvoir effectuer plusieurs simulations de croissance en un délai raisonnable (en “tuant” le cerveau à la fin…), il faudrait là encore gagner plusieurs ordres de grandeur.

Cette approche pourrait nécessiter des millions d’ExaFLOPS (je viens d’apprendre que ça s’appelle des yotaFLOPS), qui ne seraient disponibles que vers 2040. Ceci justifie le scepticisme de certains et motive des projets concurrents qui pourraient se révéler complémentaires. Ainsi Obama vient de décider d’injecter 3 milliards de dollars sur 10 ans dans le qui consiste essentiellement à cartographier le cerveau en activité au niveau cellulaire.

Si des appareils d’imagerie médicale devenaient capables de capturer les quelques 100 PetaBytes d’information correspondant à l’état instantané d’un cerveau vivant, on pourrait imaginer un vers un “Personal Cerveau” de bureau d'1 ExaFLOPS dès 2032 .

dessin: Arnaud Rafaelian, membre de Strip-Science (cliquer)

En attendant, il y a toujours moyen de fabriquer un cerveau humain parfaitement fonctionnel, indépendant et consommant peu d’énergie électrique en quelques minutes de conception, 9 mois de montage et quelques années de programmation …

Références:

Henry Markram “ ", Pour la Science N°425, mars 2013
Lettvin, J.Y., Maturana, H.R., McCulloch, W.S., & Pitts, W.H. “ ” , 1959 ; Proceedings of the IRE, Vol. 47, No. 11, pp. 1940-51.
Marco A. Herrera Valdez, , Sandra D. Berger, Stefanie Ryglewski, Carsten Duch, Sharon Crook “ ” Journal of Computational Neuroscience August 2012,
Henry Markram “Keynote lecture at Neuroinformatics 2008 in Stockholm, Sweden” ( )
Christian Clemençon “ ”, EPFL, 2009
Nicolas Rougier “ “, interstices, 2013 (audio 13:22).
" ”, Kurzweil AI, 2012
Ed Yong, “ ”, Nature, 2012
Ed Yong “ " BBC Future, 8 février 2013
Ray Kurzweil (2012). How to Create a Mind: The Secret of Human Thought Revealed. Viking Adult. ( )

Alice, Bob et le coffre de XOR

Sat, 09 Mar 2013 00:00:00 +0000

Pendant des siècles, la a principalement consisté à inventer des systèmes de des messages rendant très difficile le du message par quelqu’un ne possédant pas la clé, et à trouver des moyens de transmettre la clé au destinataire.

Aujourd’hui il existe des moyens de chiffrer des message de manière absolument indécryptable, et de les envoyer à un destinataire qui pourra les lire sans qu’on ait besoin de lui transmettre la clé ! Impossible ou très compliqué, pensez-vous ? Voici pourtant une méthode ultra-simple.

Deux cadenas, c’est beaucoup mieux qu’un

Il y a très longtemps, ont trouvé un moyen pour s’envoyer des objets précieux dans des coffres fermés à clé sans jamais avoir besoin de se transmettre les clés, ni d’en faire des doubles. Tout ce dont ils ont besoin, c’est d’un coffre que l’on peut fermer avec deux cadenas:

Alice envoie un précieux cadeau d’anniversaire à Bob dans le coffre qu’elle ferme avec un cadenas A dont elle garde la clé.
Bob ne peut pas ouvrir le coffre, mais il peut y ajouter son propre cadenas B dont il garde la clé et renvoie le coffre fermé à double à Alice
Alice ouvre son cadenas A et renvoie à Bob le coffre qui n’est plus fermé que par le cadenas B
Bob peut enfin ouvrir le coffre en enlevant le cadenas B, mais son anniversaire est déjà passé parce qu’il a fallu trois trajets au messager au lieu d’un seul, et ce dernier a eu tellement peur en traversant trois fois la forêt des brigands qu’il a démissionné.

Au XXIème siècle, la vitesse des communications est telle qu’un coffre numérique à deux cadenas peut devenir utilisable, à condition de résoudre un problème qui n’existe pas avec le coffre:

Alice chiffre un bon d’achat pour un précieux cadeau d’anniversaire X avec une fonction utilisant la clé A. Elle transmet à Bob le message A(X) .
Bob le message avec sa fonction clé B et envoie à Alice le message B(A(X))
Alice déchiffre le message avec sa clé, ce qui produit un message qu’elle renvoie à Bob.
Mais là, Bob ne pourra le déchiffrer correctement que si les fonctions A et B sont commutatives, c’est à dire que le résultat des deux chiffrements A et B est indépendant de leur ordre, donc que A(B(X)) = B(A(X). Dans ce cas seulement le message A-1(B(A(X))) transmis par Alice à l’étape 3 sera égal à B(A-1(A(X))), donc à à B(X) et Bob pourra alors déchiffrer son cadeau.

Alice et Bob ont donc besoin de créer des fonctions/clés de chiffrement A et B qui soient à la fois inviolables, et commutatives. Or il existe une fonction toute bête qui combine ces deux avantages : le pour les intimes.

Claude Shannon a démontré en 1949 quelque chose d’intuitivement évident : en effectuant un XOR bit a bit entre un message et une clé aléatoire de même longueur à usage unique, le message crypté est absolument inviolable.

Illustrons ceci avec un message d’une seule lettre codé sur 8 bits selon le code ASCII:

Alice veut envoyer à Bob la lettre “x”, soit la séquence de bits X=01111000
- Elle utilise un générateur aléatoire, quantique tant qu’à faire, qui produit la clé A=11010001
- Alice calcule XOR(X,A) qui donne le message M1=10101001 et transmet ce message
- Eve la curieuse intercepte le message, mais ne peut y trouver aucune anomalie statistique lui permettant d’en déduire la clé. En effet le message peut tout aussi bien correspondre à la lettre “y” (01111001) codée avec la clé 11010000, ou n’importe quelle autre combinaison lettre/clé.
Bob reçoit le message, génère une clé B aléatoire de même longueur B=00000101 et transmet le message M2=XOR(M1,B)=10101100
Alice génère le message M3=XOR(M2,A)=01111101, ce qui “enlève le cadenas A” car XOR est sa propre réciproque : XOR(A,XOR(A,X))=X
Bob calcule alors XOR(M3,B)=01111000 et obtient bien le code ASCII de la lettre “x”

Le seul problème, c’est qu’Eve a finalement aussi réussi à décrypter le message, Comment a-t-elle fait ?

Vous le saurez en lisant les commentaires que d’autres ne manqueront pas d’écrire, et vous apprendrez comment Alice et Bob préserveront leur intimité dans la suite de leurs aventures, bientôt sur drgoulu.com.

Comment bien brasser les cartes

Sat, 19 Jan 2013 00:00:00 +0000

Les amateurs de jeux de cartes savent qu’il faut accorder beaucoup d’attention au brassage des cartes pour éviter la triche, mais qu’en est-il par exemple dans les jeux de poker en ligne ?

Les informaticiens se sont beaucoup , mais relativement peu sur les problèmes de brassage, moins fréquents et apparemment plus simples. Mais comme disait : “il faut se méfier des appâts rances” ©…

Examinons pour commencer un algorithme tout bête que j’avoue avoir utilisé plusieurs fois : on échange la première carte (ou donnée) avec une autre choisie au hasard parmi les N cartes*, puis on fait de même pour la 2ème carte, la 3ème et ainsi de suite jusqu’à la N-ième. Cette méthode semble réunir toutes les caractéristiques d’un bon algorithme : simplicité, rapidité, et efficacité.

(Si vous avez un vrai browser, . C’est ma première oeuvre faite avec , fortement inspirée de , et que j’essaie désespérément d’inclure directement dans cet article…)

Et pourtant, un tel brassage s’avère “biaisé” : toutes les possibles n’ont pas la même probabilité d’être produites. Déjà en ne brassant que N=3 cartes par cette méthode, 3 des 6 permutations possibles sont nettement moins probables que les 3 autres .

biais naïve swap (i ↦ random)

Avec N=60 cartes, ce biais est bien visible sur la figure ci-contre, produite par une autre en ligne . Elle effectue 10'000 mélanges avec le même algo, compte dans une matrice le nombre de fois ou la i-ième carte se retrouve à la j-ième position après le brassage, et représente les positifs en vert et les négatifs en rouge.

La variante “swap (random ↦ random)” dans laquelle on échange N fois 2 cartes choisies au hasard n’est pas meilleure : elle présente un biais positif sur la diagonale (i=j) qui s’atténue si on effectue 2N échanges, et disparaît presque pour 3N échanges.

Signifierait-ce qu’il faut plus de N opérations pour obtenir un “bon” brassage de N cartes ? On pourrait le penser car il existe un algorithme tout simple sans biais : extraire successivement des cartes prises au hasard dans le tas pour en constituer un deuxième, mais il nécessite N.log(N) opérations***, voire N² s’il est mal programmé . Or N.log(N) est la complexité des algorithmes de tri, donc on pourrait avoir l’idée aussi surprenante que séduisante de se faire un brassage en utilisant auquel on passe une fonction aléatoire comme critère de tri.

C’est tellement beau que j’exhibe même ici le petit bout de code Javascript qui fait ça:

\[source language="javascript"\]

function shuffle(array) { array.sort(function() {return Math.random() - .5}); }

\[/source\]

biais sort (random comparator)

random() renvoie un nombre aléatoire entre 0 et 1, donc Math.random() - .5 tire à pile ou face si une carte est “plus grande” que l’autre lors du tri, ce qui est supposé mélanger au lieu de trier.

Cette méthode produit la matrice de biais ci-contre, dont la non-trivialité me laisse pantois.

Par contre, la variante dans laquelle on commence par générer un vecteur de nombres aléatoires, puis on “dé-trie” les données en utilisant ces nombres aléatoires pour les comparaisons donne un résultat non biaisé. (voir “sort (random order)” dans )

Et une fois qu’on est tout content d’avoir trouvé un algorithme de brassage non biaisé de complexité N.log(N), on découvre celui de datant de 1938, non biaisé, assez simple :

\[source language="javascript"\]

function shuffle(array) { var j = array.length, t, i; while (j) { i = Math.floor(Math.random() * j–); t = array

\[j\]

; array

\[j\]

= array

\[i\]

; array

\[i\]

= t; } }

\[/source\]

Les 3 dernières lignes échangent les cartes en i-ième et en j-ième position tout comme dans notre premier algorithme naïf, mais ici on ne choisit la carte à échanger que parmi celles qui n’ont pas encore été traitées. Et pour des raisons de simplicité du code, on mélange le tableau “depuis la fin”.

Et le plus beau est que sa est proportionnelle à N, ce qui est in exemple de plus de l’universalité du principe de Murphy de la thermodynamique de la tartine beurrée qui dit qu’il est toujours plus facile de générer du désordre que de l’ordre.

D’autre part, si vous devez brasser beaucoup de données de manière irréversible, je ne sais pas moi, pour une application de vote par internet par exemple, souvenez-vous de Fisher-Yates. Et utilisez un , car un peut non seulement souffrir de biais, mais surtout être reproductible à partir de la “graine” et permettre ainsi d’inverser le brassage.

Bon, je voulais encore modéliser différentes techniques de brassage de vraies cartes en JavaScript pour déterminer combien d’opérations sont nécessaires pour obtenir un mélange sans biais, mais je préfère laisser ça en exercice pour ChipRaptor et d’autres.

Notes:

Gag © Pierre-Alain de

* et non N-1, car il faut garder une chance sur N que la carte soit “échangée avec elle même” et reste à sa place dans le tas.

** félicitations au premier lecteur qui calculera les probabilités respectives de ces permutations et expliquera ainsi le biais…

*** parce qu’on doit alors forcément parcourir des

Références:

, “ ”, 14 janvier 2012
Mike Bostock, “ ”, 21 janvier 2012
Jeff Atwood “ ”, 2007, Coding Horror

La pénible mort des données

Wed, 31 Oct 2012 00:00:00 +0000

Article publié dans le cadre de la , pour changer un peu de toute cette biologie.

Alors comme ça vous voulez enlever vos photos de biture de Facebook ou donner votre vieil ordi à votre maman sans les traces de vos visites à des sites olé-olé ? Pas simple de détruire des informations alors que le rôle des mémoires informatiques est précisément de les conserver.

D’abord, les données sont défendues contre leur pire ennemi : l’homme. Il y a le distrait qui clique machinalement sur “oui” à la boite de dialogue “êtes-vous sur de vouloir effacer ce fichier très important sur lequel vous avez bossé 3 jours ?”; il y a le jaloux qui dit à son ex “mais c’est tout simple : fais click droit sur le disque dur et choisis Formater…”; il y a le licencié qui fait un petit “drop database” avant de partir… Il existe 3 stratégies pour éviter ça:

ne pas autoriser l’effacement des données
faire semblant de les effacer, mais ne pas les effacer pour de vrai.
faire des copies de sécurité pour les ressusciter, au cas où.

Pour des raisons techniques que nous allons expliquer plus bas, l’informatique actuelle combine les 3 stratégies au point qu’effacer des données est devenu une opération redoutablement complexe.

"Dead Data" par Stinging Eyes sur Flickr

D’abord, il faut réaliser que l’écrasement est la principale cause de mortalité des données. Il y en a un tout petit peu qui meurent d’inanition lorsque l’alimentation d’un PC flanche, un peu plus qui meurent dans un crash de disque dur mécanique ou magnétique, mais la plupart meurent écrasées par d’autres données écrites au même emplacement mémoire qu’elles.

Donc “1. ne pas autoriser l’effacement des données” revient à “1. ne pas autoriser l’écriture de données là où il y en a déjà”. Cette fonction de police est aujourd’hui réalisée en partie dans les applications comme les bases de données, et à un niveau inférieur dans les , qui peuvent même utiliser des circuits de présents dans les microprocesseurs récents.

Que ce soit au niveau de la mémoire RAM, du disque dur ou d’une base de donnée répartie à travers la planète, le principe est le même : un programme n’a le droit d’écrire des données qu’aux emplacements mémoire marqués comme étant libres. Dès lors, pour effacer des données, “il suffit de” marquer leur emplacement en mémoire comme étant libre, ce qui permet de réutiliser la mémoire libérée. Mais ce n’est pas si simple, car 4 monstres rôdent:

l’Hydre de Lerne
Le Docteur Frankenstein
L’Ecran Bleu de la Mort
La Fragmentation

L’Hydre de Lerne

Les systèmes informatiques actuels utilisent une dans laquelle une donnée peut être présente simultanément à plusieurs niveaux. Elle ressemble alors à une dont il faut couper les têtes dans un certain ordre pour la tuer.

Dans un système simple, il faut en principe attaquer le niveau le plus haut de la hiérarchie, et poursuivre vers le bas. C’est pour cela par exemple que Windows ne vous permet pas d’effacer un document Word (= marquer son emplacement comme libre sur le disque dur) tant qu’il est ouvert (= présent en mémoire RAM) sinon le fichier serait recréé à la prochaine sauvegarde.

Çà se complique avec les systèmes multicœurs/multiprocesseurs ou répartis sur un réseau : là il faut utiliser une arme spéciale appelée pour qu’une donnée morte pourrisse si rapidement ses clones qu’ils ne puissent pas être ressuscités.

Le niveau le plus bas de la hiérarchie mémoire pose le plus gros problème. A mon sens c’est actuellement internet, un disque dur de PC typique étant essentiellement rempli de gigabytes téléchargés. Mais la difficulté existe aussi pour ces bons vieux disques/bande/cartes perforées de sauvegarde : comment effacer des informations à ce niveau où il n’existe aucune “cohérence de cache” ? Il n’existe (heureusement?) aucun moyen d’effacer du net.

Le Docteur Frankenstein

Or tant que tous les clones d’une donnée n’ont pas été écrasés, voire broyés, elle peut ressusciter :

En RAM, des programmes mal fichus peuvent continuer à utiliser des vers des données tuées, voire les ressusciter en les copiant à un emplacement valide.
Sur disque, des peuvent “dés-effacer” des fichiers.
Sur internet, on peut retrouver une page effacée dans le ou sur un par exemple. Et la republier.
Et toute donnée ayant au moins une copie de sécurité (n’est-ce pas ?), une catastrophe peut paradoxalement rendre la vie à des données effacées après la création de la copie…

L’Écran Bleu de la Mort

Quand une donnée est tuée, il faut en informer ses proches: les références. Au sens large, ce sont toutes les autres données qui se réfèrent à la disparue et qui risquent l’équivalent informatique de la gaffe “ah, et bien des choses à ta femme de ma part !” - “… elle est morte la semaine passée…” : le crash.

En RAM, les vers la donnée effacée indiquent désormais une tombe. Les suivre invoque l’ ainsi nommé en raison de son apparence sous Windows, mais il se présente aussi sous forme et , entre autres. Dans tous les cas, vous allez perdre un peu de temps à redémarrer votre machine, et parfois beaucoup de données saines…

Ne vous laissez pas distraire : ceci est l’Écran Bleu de la MORT !

Sur disque, les noms de fichiers disparus provoquent des variantes moins létales de l’Écran Bleu de la Mort, les bien connus messages “File not found”.

Mais l’Écran Bleu de la Mort envahit aussi internet, le niveau le plus bas de la hiérarchie mémoire. D’ l’ n’en est pas moins redoutable, et beaucoup moins bavarde. Les données à cet ont-elles été effacées, déplacées ou n’ont-elles même jamais existé ? Est-ce temporaire ou définitif ? Aucun moyen de le savoir sans investigations poussées.

Celui de JegX m’avait fait sursauter …

Pour vous qui surfez, ce problème occasionnel peut souvent se résoudre en utilisant un moteur de recherche pour retrouver une autre page avec le même contenu. Sur drgoulu.com, ça devient embêtant : malgré l’utilisation d’un qui gère les redirections 425 liens sur 6110 se sont brisés au fil des ans. J’en répare manuellement quelques uns, parfois. Les autres apparaissent . Mais il y a pire : de plus en plus de sites web utilisent du contenu, voire du code, stocké sur un (CDN). Si de tels liens se cassent, ça peut rendre indisponible des sites entiers.

Les informaticiens ont développé de nombreux et intenses efforts pour repousser l’Écran Bleu de la Mort, avec des succès variés. Ils ont assez bien réussi à remplacer les dangereux pointeurs par des en mémoire plus intelligentes, qui prennent une valeur précise (en général nulle) au moment même où la donnée qu’ils pointent meurt. Dans les bases de données, ils ont eu l’idée des contraintes d’ . C’est très bien, très rigoureux et tout, mais ça oblige à effacer en cascade tous les enregistrements liés aux enregistrements effacés par des . Une petite mort naturelle peut ainsi causer un holocauste, donc si on l’utilise, on préfère désactiver la possibilité d’effacer les données…

Certains utilisent des concepts inspirés des bases de données, mais je n’en connais toujours aucun qui permette de déplacer ou de renommer un fichier système sans tout casser : les fichiers n’ont toujours pas une “adresse” unique.

Les d’internet peuvent être vues comme des adresses uniques, mais là ce sont les données correspondantes qui peuvent être modifiées ou supprimées sans contrôle…

La Fragmentation

Le quatrième monstre qui défend les données contre la mort porte un nom de grenade mortelle : la .

Commençons par parler de la mémoire RAM. Une donnée effacée y laisse un trou. Cet emplacement libre est par la suite ré-alloué à une donnée naissante, mais celle-ci ne peut pas être plus grande que le trou, donc il y a de fortes chances que le trou ne soit que partiellement rempli par une donnée plus petite, en laissant un reste de trou encore plus petit. Au bout d’un certain temps, la mémoire disponible sera fragmentée en beaucoup de petits trous dans lesquels les grosses données ne pourront plus se caser.

En RAM, l’utilisation de références adaptées et la vitesse de copie de la mémoire permet de de temps en temps, mais sur des supports plus lents comme les disques on préfère diviser au besoin un gros fichier en une chaîne de petits blocs remplissant exactement les trous laissés libres par les fichiers effacés. Mais cette fragmentation des fichiers ralentit l’accès aux données.

Les données doivent-elles mourir ?

Supprimer des données est une opération dangereuse et complexe. Elle est à peu près maîtrisée en RAM, où elle est indispensable. Mais sur disque dur et dans le nuage internet où la mémoire est extrêmement bon marché, répliquée et difficilement réutilisable, la solution la plus simple, fiable et efficace consiste à ne pas tuer les données, ou du moins ne pas les écraser. En fait il suffit souvent de les laisser se momifier : lorsque toutes les références vers une donnée auront disparu ou seront elles aussi momifiées, la donnée sera perdue dans la gigantesque presque aussi surement que si elle avait été effacée : il n’y aura plus moyen de la retrouver.

C’est apparemment cette approche par momification qu’avaient choisi Facebook et Flickr pour “effacer” les photos. Selon , il fallait entre quelques minutes et quatre mois environ pour que toutes (?) les références à une photo soient supprimées. C’est compréhensible si on considère qu’il peut y en avoir des centaines, voire des milliers sur les comptes Facebook des “amis” de l’auteur de la photo, mais aussi sur des sites externes. En supprimant une photo sur demande d’un utilisateur, Facebook ou Flickr modifient le contenu d’autres utilisateurs, voire d’autres sites, sans leur autorisation, ni même avertissement, ce qui pourrait soulever des problèmes légaux…

Avant d’appuyer sur

\[return\]

ou de clicker sur

\[ok\]

, il vaut mieux partir de l’idée que l’ajout de données est encore plus irréversible que leur suppression. Oups, je viens de remplacer tout cet article par un seul espace.. (authentique!).

\[Ctrl\]

\[Z\]

ouf, tout est récupéré ! Merci Undo ! Où en étais-je ? Ah oui : CQFD.

Comment dire 33 avec 3 cubes ?

Wed, 20 Jun 2012 00:00:00 +0000

Le gars qui m’a pourri ma dernière soirée du printemps s’appelle Mike Croucher. il a négligemment posé le problème suivant:

Il est possible d’écrire beaucoup d’entiers comme la somme des cubes de 3 entiers, par exemple: 99 = (-5)^{3 + 2}3+ 6^3 Un exemple plus compliqué est: 91 = (-67134)^{3 + (-65453)^{3+(83538)^{3 Votre tâche est de trouver les entiers x,y, et z tels que: 33 = x}3 + y}3 + z}3

Comme j’ai bien vu que la solution pour 91 impliquait de grands entiers, je me suis dit que 33 demanderait probablement des nombres encore plus grands, mais j’ai quand même vite pondu le programme Python suivant pour voir:

\[sourcecode lang="Python"\]

res={} #dictionary of results def store(n,x,y,z): if n>=0 and n<100 and n not in res: res

\[n\]

=(x,y,z) print n,res

\[n\]

cube=[] x=0 while True: x3=x*x*x cube.append(x3) for y in range(x+1): y3=cube

\[y\]

for z in range(x+1): z3=cube

\[z\]

store(x3+y3+z3,x,y,z) store(x3-y3+z3,x,-y,z) store(x3+y3-z3,x,y,-z) store(x3-y3-z3,x,-y,-z) store(-x3+y3+z3,-x,y,z) store(-x3-y3+z3,-x,-y,z) store(-x3+y3-z3,-x,y,-z) # store(-x3-y3-z3,-x,-y,-z) #you’re right Neamar, it’s useless x+=1 if x==50: #show “small” results for n in range(100): if n in res: print n,res

\[n\]

else: print n,’?’

\[/sourcecode\]

En moins d’une seconde il trouve les 69 des 100 premiers entiers qui sont des sommes de cubes d’entiers inférieurs à 100. Le plus “compliqué” est 78=-55³+53³+26³ .

Ensuite il mouline pendant des heures pour trouver 51=-796³+659³+602³ et 16=1626³-1609³-511³, et pendant ce temps j’ai exploré les liens émaillant les premiers commentaires .

Il s’avère que le problème soumis par Mike Croucher est extrêmement difficile, voire impossible. liste les solutions trouvées par mon programme, et d’autres qui ont nécessité des algorithmes beaucoup plus fûtés que le mien pour résoudre cette :

87 = 4271³ - 4126³ - 1972³ , découvert en 1964
96 = -15250³ + 13139³ + 10853³
91 = 83538³ - 67134³ - 65453³
80 = -112969³ + 103532³ + 69241³
39 = -159380³ + 134476³ + 117367³ découvert en 1991
75 = - 435203231³ + 435203083³ + 4381159³ découvert en 1993
84 = 41639611³ - 41531726³ - 8241191³ découvert en 1994
30 = 2220422932³ - 2218888517³ - 283059965³ ainsi que 52 = -61922712865³ + 60702901317³ + 60702901317³ par la même équipe, qui a mis au point l’algo le plus performant du moment
24 =15584139827³ - 15550555555³ - 2901096694³ a été découvert avec l’algo précédent en 2001 par D. J. Bernstein, dont la page est consacrée à ce problème et son historique

A part ça, les matheux démontrent (essayez…) que les nombres de la forme 9n+4 et 9n+5 ne peuvent pas être la somme de trois cubes, ce qui règle le cas de 4,5,13,14,22,23 etc.

Bon… je n ai pas vraiment le droit d’utiliser ce dessin, mais il va tellement bien là que j espère que vous ne m en voudrez pas, cher Docteur G…

Reste 33 (et 42 et beaucoup d’autres), qui résistent effrontément aux informaticiens cherchant à les obtenir, ainsi qu’aux mathématiciens essayant de prouver que c’est peine perdue…

C’est énervant qu’un petit problème tout bête comme celui-ci puisse résister ainsi aux ordinateurs les plus puissants. Et motivant de penser qu’une solution est peut-être à la portée d’amateurs éclairés. Des idées ?

Références:

Gardiner, V. L., Lazarus, R. B., & Stein, P. R. “ . “, 1964, Mathematics of Computation, 18, 408-413
Heath-Brown, D. R., Lioen, W. M., & te Riele, H. J. J." ”, 1993, Mathematics of Computation, 61, 235-244
Andrew Bremner, “ ”, 1993
B. Conn and L. Vaserstein, “On sums of three integral cubes”, 1994, Contemp. Math. 166, 285-294.
Eric Pine, Kim Yarbrough, Wayne Tarrant and Michael Beck, Noam D. Elkies, “ ”, 2000, ANTS IV
Michael Beck, Eric Pine, Wayne Tarrant, Kim Yarbrough Jensen “New integer representations as the sum of three cubes”, 2007, Math. Comp. 76, 1683-1690 ( )
Wacław Sierpiński (1988). Elementary theory of numbers. North-Holland. ( )

Le spray de briques

Thu, 06 Oct 2011 00:00:00 +0000

Je dois à Steve Jobs ma découverte du marketing. Je m’en souviens comme si c’était hier, mais c’était en été 1984. Je bossais l’été dans la boutique d’informatique qui m’avait vendu un deux ans plus tôt, mais vendait surtout des comme machines “professionnelles”. Un matin juste à l’‘ouverture entre une personne qui, comme beaucoup de clients à l’époque, n’avait pas une idée claire de ce qu’on pouvait faire avec un ordinateur. Mais après quelques questions il apparaît que le monsieur est un commerçant qui cherche plutôt un outil de travail qu’une machine à jeux. Donc je lui montre , et un soft de compta au normes suisses, le tout sur l’Apple II, machine éprouvée depuis plusieurs années (1977) pour la modique somme d’environ 5000 Francs suisses de l’époque. Une fortune, mais ce n’est pas ce qui chicane le client.

“Plusieurs années ???” demande-t-il étonné. “Vous n’avez rien de plus récent ? " - “Si Monsieur, nous venons de recevoir le nouvel ordinateur d’Apple ce matin même, ils l’ont appelé “ ” Dieu sait pourquoi, nous n’avons pas encore eu le temps de le tester, mais je peux déjà vous dire qu’il faudra plusieurs mois avant qu’existent les logiciels qu’il vous faut…” - “Je peux le voir quand même ?” - “Bien sur Monsieur, nous allons le découvrir ensemble” (en fait j’avais déjà lu pas mal à son sujet, notamment qu’il avait un processeur , le rêve absolu à côté de mon 6502…) Et me voilà donc en train de sortir “ça” d’un carton :

“Comme je vous disais, il n’y a pas encore beaucoup de programmes pour cette machine, nous n’avons que ces 2 disquettes fournies avec le Macintosh : , d’après le nom ça doit être un traitement de textes, et , dont je n’ai aucune idée de ce que c’est, donc je vous propose de commencer par ça..” La disquette tourne pendant de longues secondes pendant lesquelles je vais chercher la liste de prix “Ah, et je dois vous prévenir : le Macintosh est bien plus cher que l’Apple II. Sans les logiciels, (mais peut-être avec l’imprimante, je me souviens plus) vous en aurez pour Frs 7000 au moins…” Là dessus, l’écran affiche :

La fin de l’histoire est incroyable, mais je vous jure qu’elle est vraie. Ca s’est passé exactement comme ça, quasiment dans le même délai qu’il vous faudra pour le lire. Je clique sur le spray, je clique sur la texture de briques, je spraie des briques sur la fenêtre et le client dit : “je prends celui là” !

Le "Sleep sort"

Sun, 19 Jun 2011 00:00:00 +0000

Tout a commencé* par un : un anonyme propose un algorithme de tri en 2 lignes de code :

function f() {sleep "$1" echo "$1"} while [ -n "$1" ] do f "$1" & shift done wait

Lorsqu’il est appelé avec une liste de N nombres comme dans ./sleepsort.bash 5 3 6 3 6 3 1 4 7 , ce code lance un processus pour chacun des nombres n. Chaque processus effectue la fonction f, qui utilise la fonction pour attendre n secondes avant d’afficher le nombre n. Dans l’exemple, le 7ème processus n’attendra qu’une seconde avant d’afficher “1”, le 4ème et le 6ème attendront 3 secondes avant d’afficher “3” dans un ordre qui n’a aucune importance et ainsi de suite jusqu’au dernier processus qui affichera “7” après 7 secondes. L’utilisateur verra ainsi s’afficher progressivement les N nombres triés dans l’ordre croissant.

Depuis ce message on voit des implémentations de “Sleep sort” fleurir dans programmation en utilisant , et des , anglophones surtout pour l’instant.

Prétextant que ce programme mettrait plus de 11 jours à trier les deux nombres 1000000 et 673, certains considèrent le “sleep sort” comme un bon gag, ce qu’il est certainement à l’origine. Pour ma part j’ai de la . Voici pourquoi.

D’abord, ce code est simple et fait l’éloge d’une grande qualité du programmeur : la paresse. Faire quelque chose d’utile simplement en attendant, quoi de plus beau ? A ce titre il mérite amplement sa place à côté du dont en français, du ou des et sans intérêt, mais qui ont leur page Wikipédia.

Photo par Eben Regis sur flickr

Plus sérieusement, “Sleep sort” exploite de manière active l’écoulement du temps au lieu de le subir, ce qui est déjà intéressant en soi, mais pose également des questions intéressantes sur la .

Car le “génie” de cet algorithme, s’il vous avait échappé, est qu’il prend en apparence un temps proportionnel à max(n), le plus grand des nombres à trier, pour s’exécuter, plus un temps proportionnel à N pour créer les processus. Or les existants prennent un temps proportionnel à N.log(N). Il pourrait donc exister des cas où le “sleep sort” serait plus rapide. Mais est-ce vraiment le cas ?

Traitons d’abord de la partie la plus perceptible du temps d’exécution, l’attente de max(n) secondes. Sur les machines actuelles, , et on pourrait probablement passer aux microsecondes. En fait il faut simplement garantir que deux processus associés à deux nombres x et x+1 se réveillent dans le bon ordre et aient le temps de produire leur sortie sans perturber le réveil des processus suivants. Déjà ceci soulève plein de problèmes intéressants au niveau des systèmes d’exploitation, de l’accès aux ressources critiques etc. Mais quelles que soient les solutions techniques, il reste qu’on ne sait pas bien exprimer théoriquement la complexité d’un tel algorithme : en principe, une durée d’exécution proportionnelle à l’une des données conduit à une complexité O(1) supposée largement inférieure à O(N), ce qui n’est pas le cas en pratique ici.

Ensuite la partie “proportionnelle à N” dans laquelle on crée les N processus est elle vraiment O(N) ? En principe oui, mais il existe une partie invisible : la gestion interne de la fonction système “sleep”. Dans tous les systèmes d’exploitation que je connais (au moins deux…), “sleep” provoque l’insertion du processus dans une liste de tous les processus suspendus en attente de l’échéance d’un certain temps. Et pour éviter de parcourir toute la liste à chaque interruption du timer pour trouver quels processus doivent être réveillés, on la maintient triée dans l’ordre des réveils programmés. “Triée” ? Et oui… : à chaque instruction “sleep”, rencontrée le processus est inséré au bon endroit. “Inséré” ? Et re-oui… : l’exécution des N “sleep” revient à un “ ”, d’une complexité O(N²) rédhibitoire.

“Sleep sort” n’est donc pas un tri linéaire, du moins sur un ordinateur ayant beaucoup moins de N processeurs. Mais il soulève plein de questions intéressantes sur les algorithmes, les systèmes d’exploitation, l’architecture des ordinateurs et la psychologie des programmeurs. !

Note* : en fait l’idée est plus ancienne comme le montre ce post “ ” datant de 2006

Et un ordinateur quantique, un !

Thu, 19 May 2011 00:00:00 +0000

Et en plus il a de la gueule. Enfin, autant qu’une boite noire éclairée par des LED bleues…

La vague idée de l’ est née dans les années 1970 à l’image d’une boutade de Richard Feynman:

“Nature is not classic, dammit, and if you want to make a simulation of nature you’d better make it quantum mechanical and by golly it is a wonderful problem.”

Ca paraissait être de la science-fiction pendant quelques décennies et voilà c’est fait : après quelques et un partenariat avec Google, l’entreprise canadienne le premier ordinateur quantique !

Le D-Wave One est doté d’un processeur à 128 “ ” baptisé “Rainier”, spécialisé dans la résolution de problèmes d’ discrète, une classe de problèmes “NP” (Non Polynomial), dont la résolution est très lente voire impossible sur un ordinateur classique.

“Rainier” n’a pas grand chose à voir avec la puce de nos PC : il utilise des supraconductrices pour générer les qubits et exploite le pour accéder à leur état. Les qubits effectuent ensuite l’optimisation par une méthode de “ ”. Toutes ces notions sont bien éloignées du pain quotidien des informaticiens d’aujourd’hui…. D’ailleurs un ordinateur quantique ne se “programme” pas réellement, il doit plutôt être configuré pour résoudre un problème donné, un peu à la manière des bons vieux .

Vue de "Rainier", le processeur du D-Wave One

Avec un prix catalogue de 10 millions de dollars, le D-Wave One s’adresse aux entreprises ayant un problème très particulier à résoudre. Tellement particulier qu’un ordinateur à 10 millions de dollars n’y parvient pas. J’aurais tendance à dire que le marché me semble limité, mais je m’en voudrais de répéter une erreur célèbre:

“Je pense qu’il y a un marché mondial pour quelque chose comme 5 ordinateurs.” (Thomas Watson, président d’IBM, 1943)

(Edit du 28.9.2012 suite au commentaire de Manu : cette phrase n’est )

Références:

M. W. Johnson et al “ ”, 2011, Nature R. 473, pp 194–198
Newns & Tsuei, “ ”, 2002, United States Patent 6495854
" " sur “ ”, le blog de D-Wave
“Catching quantum mechanics in the act…” sur “ ”, le blog de D-Wave
Hartmut Neven, “ ”, 2009, Google Research Blog
page “ ” sur Wikipedia
" " sur The Stony Brook Algorithm Repository

les décorateurs, ou pourquoi j'aime toujours la programmation

Sat, 04 Dec 2010 00:00:00 +0000

Je programme des ordinateurs depuis 30 ans, et tous les 5 ans environ je me demande pourquoi je continue à aimer ça. Et à chaque fois je découvre quelque chose qui provoque un “éclair haha”, une de ces illuminations cérébrales où l’on entrevoit le Génie dans toute sa Pureté avant de retomber sur sa chaise motivé pour les 5 ans suivants.

Le dernier a été provoqué cette semaine par les “décorateurs” de Python, dont je vous parlerai plus bas.

Ma première extase informatique date donc de 1980 environ, je m’en souviens comme si c’était hier. Mon 2001 se programmait en BASIC, un langage qu’on a bien fait d’oublier. Mais une astuce (ou plutôt une horreur) sur le PET permettait de faire en sorte que le programme s’ajoute des lignes de programme à lui-même ! J’avais ainsi modifié le jeu “ ” de pour qu’il “apprenne” de nouveaux animaux de façon permanente. Un programme qui s’améliore lui-même, ça me fait encore rêver, 30 ans après…

Le second flash date de 1985, la grande époque de . Un jour j’ai vu quelque chose comme ça:

\[pascal\]

function factorielle(n: integer): integer; begin if n <= 1 then result := 1 else result := n*factorielle(n-1); end;

\[/pascal\]

Une fonction qui s’appelle elle même ! Merveilleuse , chaque fois que je te revois, je me rappelle mon émoi à notre première rencontre.

Les années 1990 sont riches en “haha"s plus rapprochés mais moins intenses pendant mes études à l’EPFL : la en LISP, le moteur d’inférence de , la en d’ADA, qui semblait à l’époque bien plus importante que la programmation orientée objet, juste entrevue. Et , précurseur de la programmation parallèle trop tôt disparu.

Un peu avant 1995, je découvre et le flash se produit lorsque je comprends que c’est un véritable langage de programmation complet… sans code ! Ou plus exactement que le langage graphique de LabView permet de programmer directement au niveau sémantique. Adieu “syntax error” ! Quel dommage que vende cette merveille si cher et l’aie blindé de brevets défendus avec vigueur : un des concepts les plus innovants en programmation reste confiné à un cercle d’initiés alors qu’il aurait pu révolutionner l’informatique.

un "programme" LabView avec blocs concurrents, boucles, tests etc.

Vers 2000, je constate qu’on m’avait menti : C++ est beaucoup plus qu’un C amélioré. C’est un grand festival de “haha” en quelques jours : les , la , l’ , la , les , le , mais surtout la (STL). Java et .NET ont des librairies de classes et fonctions à tout faire, mais C++ a une “méta-librairie”, un système qui produit du code très optimisé pour chaque opération spécifique, en utilisant notamment le concept d’ .

En 2005, je lis Andrei Alexandrescu (2001). Modern C [plus plus] design: generic programming and design patterns applied. Addison-Wesley. . Flash d’illumination : c’est génial, mais j’ai pas tout compris. Je le relis: re-flash: c’est encore plus génial que je pensais. Je le lis une troisième fois (à part “Les Robots” d’Asimov je n’ai jamais lu un livre 3 fois) : ça y’est je suis converti au “ ”, une approche révolutionnaire de la programmation autorisée par une exploitation transcendantale de la combinaison C++, STL, et #macros. Les C++istes trouveront un petit qui les convaincra à la fois de la puissance de cette approche, et de sa lourdeur d’écriture…

Et nous voici donc en 2010 où, poursuivant , je tombe sur ça:

\[python\]

@cache() def fib(n): if n < 2: return 1 return fib(n-1) + fib(n-2)

\[/python\]

Même ceux qui ne parlent pas Python reconnaîtront une fonction récursive calculant le n-ième terme de la suite de Fibonacci, mais il y a une astuce : le @cache().

Ca s’appelle un “décorateur” et en l’occurrence, le @cache() ajoute un comportement de (déjà mentionné ) à la fonction : si on appelle la fonction fib pour un n déjà calculé précédemment, le @cache() va renvoyer le résultat mémorisé avec un gain de vitesse appréciable plutôt que de recalculer la fonction, et ceci sans rien changer à la fonction elle-même!

Et bien sur, le décorateur est lui-même écrit en Python : c’est , et c’est une version simplifiée d’un avec la librairie Python. Une très variés est en train de naître (voyez par exemple les , chers collègues…), mais il me semble que les décorateurs permettent surtout de réaliser des choses ressemblant beaucoup aux “politiques” d’Alexandrescu avec une syntaxe plus simple qu’en C++. (Pythonistes, voyez )

C’est pour cela que j’aime toujours la programmation : les langages gagnent en pouvoir d’abstraction en même temps que moi, et vice-versa. Chaque fois que je programme dans un nouveau langage, tout est plus simple, plus clair et plus vite juste que dans le précédent, et, luxe suprême, je dois presser moins de touches. Les ordinateurs sont restés des esclaves qui camouflent leur stupidité derrière une vitesse stupéfiante, mais les concepteurs de langages, eux sont devenus vraiment malins. Merci , grâce à toi j’en reprends pour 5 ans.

Adieu focale, bonjour plenoptique !

Thu, 07 Oct 2010 00:00:00 +0000

Avez-vous vu ça ?

youtube

L’entreprise “Refocus Imaging” a mis au point une technologie qui permet de ne plus mettre au point* les photos! Concrètement, on peut rendre nette une photo floue, en réglant la focale après que la photo ait été prise, comme dans “les Experts” …

plenoptic

A un détail près : le logiciel ne suffit pas, il faut un , équipé d’une matrice de micro-lentilles avant le capteur CCD. L’optique fonctionne comme illustré ci-contre:

tous les rayons arrivant sur un pixel donné passent par une seule micro-lentille, et proviennent d’une zone donnée appelée “sous-ouverture” de la lentille principale
tous les rayons passant par une “sous ouverture” sont focalisés par les différentes micro-lentilles sur des pixels distincts.

L’image ainsi capturée ressemble à une mosaïque de petites images partielles prises de points légèrement différents (en réalité, il y a plus de micro-lentilles : l’équipe de Stanford qui a mis au point la technologie de “Refocus Imaging” utilise une matrice de 296 x 296 micro-lentilles ) :

Le principe d’un appareil plénoptique est similaire à celui d’un produisant des “images 3D” ou du “ ” célèbre depuis Matrix : en prenant plusieurs images simultanément, on capture le “ ” en 4D. Quatre dimensions parce qu’on reconstitue non seulement le point d’arrivée (x,y) des rayons sur l’image, mais aussi leur direction (définie par deux angles).

C’est cette information supplémentaire qui permet de recalculer la photo comme si elle était prise avec une focale différente, parmi beaucoup d’autres effets possibles. Ca parait un peu compliqué , mais en fait il s’agit d’utiliser de en 2D ou en 4D , des choses que les processeurs actuels savent faire à toute vitesse ( , tu étais décidément génial).

Un appareil “plenoptique” n’est pas plus gros qu’un appareil normal, n’a pas besoin de mise au point, et présente un autre avantage inattendu : on peut ouvrir le diaphragme beaucoup plus qu’avec un appareil classique pour une même profondeur de champ. Donc on peut obtenir des profondeurs de champ exceptionnelles, ou alors réduire le temps de pose… Le prix à payer, car il y en a quand même un, est une diminution assez nette ** de la résolution. Ca tombe bien, on ne trouvait pas vraiment d’utilité pratique aux capteurs de plus de 10 Megapixels au moment où … Mais il y a peut être des .

Jusqu’ici le numérique a surtout remplacé le film, mais quand le “plénoptique” supprimera les réglages dans quelques années, la révolution numérique prendra tout son sens.

Notes: * sic ** et re-sic :-)

Références

(merci à P.-F. pour les links)

Ren Ng et al, “ ”, April 2005, Stanford University Computer Science Tech Report CSTR 2005-02
Ren Ng, “ ", July 2005, ACM Transactions on Graphics,
Sri Rama Prasanna Pavani “ ”, 2005, présentation MO-ISL, CU Boulder

Al-Khawarizmismes

Mon, 12 Jul 2010 00:00:00 +0000

statue d’Al-Khawarizmi en Ousbekistan, par Heathen Dawn sur Flickr

Dans les années 800, le mathématicien perse introduit le zéro (indien) dans les chiffres arabes, décrit comment résoudre les équations du second degré, et propose de résoudre certains problèmes mathématiques en répétant une séquence d’opérations jusqu’à ce qu’un “critère d’arrêt” soit satisfait. Au XIIème siècle, les moines latins nomment “algorismus” cette méthode d’Al Khuwarizmi, qui devient “algorithme” en français en 1554.

Pour cette idée fondamentale des mathématiques et indispensable en informatique, Al-Khwarizmi a reçu à titre posthume un , et environ commises par des ignares qui mettent un y grec à la place d’un ī persan…

Après que des fous aient passé leur vie à calculer à la main des ou des , c’est évidemment l’arrivée des ordinateurs qui a donné à l’algorithmique son importance actuelle. Aujourd’hui, vous utilisez des algorithmes tous les jours, sans le savoir. Par exemple lorsque vous cliquez sur le titre d’une colonne sur votre ordinateur, et que les lignes sont . Ou lorsque vous . A chaque fois que vous téléphonez ou utilisez votre carte de crédit, vous utilisez des algorithmes de cryptographie qui étaient de la science-fiction il y a 50 ans.

Bon, ça c’était l’introduction. En fait cet article est motivé par la coïncidence de trois événements survenus la semaine passée :

Mes collègues ont (enfin) réussi à faire fonctionner un algo que j’avais pondu pour optimiser les mouvements d’une machine. Un algo assez simple (optimisation , évidemment…), bien testé, mais pas suffisamment documenté, donc pas bien utilisé, donc inspirant une certaine méfiance… Mais là ça marche! Vidéo bientôt.
La découverte de l’existence du attribué tous les 4 ans aux auteurs d’un logiciel de calcul numérique particulièrement efficace, dont certains que je connaissais depuis peu ( et ) et d’autres à découvrir ( )
Enfin, sur les , un lien vers la page d’un chercheur listant par ses collègues et lui. Il y en a 32, assez pour évaluer vos connaissances en la matière ou les rafraîchir, et apprendre éventuellement des choses:

l’ trouve le chemin “le plus court ou presque” entre deux nœuds d’ un graphe. Il est et dans les jeux vidéo pour les déplacements des personnages par “intelligence artificielle”
peut dans certains cas trouver un chemin meilleur qu’A*, mais nécessite plus de calculs.
La est la technique que les enfants utilisent pour chercher un mot dans le dictionnaire : on l’ouvre à la moitié, puis à la moitié de la moitié où se trouve le mot et ainsi de suite jusqu’à trouver la bonne page.
“Branch and bound” : est une méthode générique d’ permettant d’éviter d’évaluer toutes les possibilités.
L’ est un truc de matheux datant de 1976, qui généralise à la fois le plus ancien algorithme connu, (l’ ) et celui de l’ (connue des Chinois déjà 1700 ans plus tôt…)
La omniprésente dans nos fichiers informatiques. Il existe de nombreux algorithmes spécifiques, parmi lesquels la me parait particulièrement géniale.
L’ permet à deux personnes qui ne se connaissent pas d’échanger des informations confidentielles sur un canal non sécurisé. Indispensable en télécommunications.
L’ détermine le chemin le plus court entre deux nœuds d’un graphe, sous certaines contraintes expliquées dans encore.
Les permettent d’approximer des dérivées, comme dans la formule f’(x) = (f(x+h) - f(x-h)) / 2h. (Je les utilise tous les jours, mais est-ce vraiment des algorithmes ?)
La est une méthode d’optimisation sous contrainte. Elle permet d’obtenir une solution optimale à partir des solutions optimales de sous-problèmes. Curieusement, en 1976, on a montré que les algorithmes de programmation dynamique sont équivalents à ceux de recherche d’un chemin optimal dans un graphe…
L’ pour déterminer le plus grand diviseur commun (PGCD) de deux entiers est le plus ancien algorithme connu. Il est paru dans les “Eléments” d’Euclide autour de 300 av J.C et ne nécessite pas de factorisation des nombres.
L’ est très utilisé en traitement d’images.
La (FFT) est extrêmement utilisée en traitement du signal, et plein d’autres domaines, jusque dans .
La est l’algorithme le plus connu pour obtenir le minimum d’une fonction à plusieurs variables.
Les permettent de manipuler plus facilement de grosses données en les réduisant à des empreintes. de manière spectaculairement efficace. Mais ici aussi, j’hésiterais à parler d’algorithme pour une “simple” fonction…
Le est une structure de données exploitée dans beaucoup d’algorithmes informatiques très efficaces comme le . ( Il faut absolument que je trouve le temps d’étudier le “ ”, une structure de données “miraculeuse” découverte en 2000 )
L’ permet de multiplier 2 (grands) nombres plus vite qu’avec la méthode que vous avez apprise à l’école.
L’ détermine des vecteurs de base “presque” orthogonaux à partir d’un grand nombre de vecteurs. Il est utilisé en cryptographie.
l’ permet de résoudre le
Le permet de réarranger rapidement une liste dans un ordre spécifique
La permet de trouver une approximation des zéros d’une fonction, des solutions d’une équation à plusieurs variables, ou les minima/maxima.
est une technique d’“apprentissage renforcé”
le est la meilleure méthode de factorisation d’un nombre, à part l’ qui est à peine meilleur mais beaucoup plus compliqué. Si vous voulez casser une clé RSA, c’est ce qu’il vous faut, en plus de beaucoup de gros ordinateurs…
, pour “RANdom SAmple Consensus” est un algorithme d’ajustement de paramètres à des données qui ignore les données “visiblement complètement fausses”
RSA, pour , est le génial algorithme de cryptographie a clé révélée utilisé dans la plupart des systèmes de sécurité actuels : carte bancaire, commerce électronique etc.
l’ effectue des multiplications de grands entiers en utilisant la FFT. Sacrés mathématiciens…
l’ permet de résoudre les problèmes dits de , dans lesquels on cherche à optimiser la valeurs d’une fonction de plusieurs variables devant satisfaire des contraintes d’inégalités.
La permet de factoriser des matrices rectangulaires, donc de résoudre des systèmes linéaires surdéterminés (avec plus d’équations que d’inconnues). Elle est utilisée dans de nombreux domaines, de la robotique aux prévisions météo.
Résoudre des systèmes d’équations linéaires par ou est l’une des opérations les plus communes en analyse numérique, utilisée dans pratiquement tous les domaines de l’ingénierie.
les “tenseurs de structure” ( en anglais) sont très utilisées en traitement d’image : ils permettent de quantifier l’appartenance d’un pixel à une région homogène. Méritent-ils de figurer dans les algorithmes ? la question est ouverte.
est une structure de données permettant de partitionner des données dans des ensembles disjoints, et de trouver rapidement à quel ensemble appartient une donnée ainsi que de réunir rapidement des ensembles.
L’ , une permettant de corriger les erreurs de transmission en télécommunication. Il est bien caché dans vos téléphones portables, mais il est là.

Connaissez-vous d’autres algorithmes dignes de figurer dans la liste ? les commentaires sont là pour les proposer.

La reconnaissance vocale est morte : pet à son âme.

Sat, 26 Jun 2010 00:00:00 +0000

D’après “2001 l’Odyssée de l’Espace”, nos ordinateurs devraient comprendre notre voix depuis 9 ans. Depuis 1997, on trouve des logiciels de reconnaissance vocale pour PC, et depuis peu nos téléphones disposent de cette fonction. Mais on ne l’utilise pas. Je ne connais personne qui dicte ses e-mails, et vous ?

Comme tous les geeks j’ai essayé de temps en temps, parfois passé une heure à lire des textes d’apprentissage de la voix la plus monocorde possible à la nouvelle version d’un soft, et puis abandonné devant ses piètres performances. Ca ne marche pas, ou pas assez bien.

Robert Portner analyse cet échec dans “ ”, titre subtilement traduit en français dans le présent article.

Le problème, c’est qu’après une phase de progrès rapides à la fin du siècle passé, le plafonne à 10% depuis 2001 , soit environ le triple du taux d’erreur d’un être humain. Et encore, c’est pour l’anglais “standard”. Le taux d’erreur est bien plus élevé pour d’autres langues, et catastrophique pour une conversation entre supporters de foot à la sortie du match.

Source: National Institute of Standards and Technology Benchmark Test History (1)

Pourtant dans les années 1990, des systèmes très fiables avaient été mis au point pour distinguer quelques mots bien choisis dans des cockpits d’avion ou des chiffres au téléphone, et on s’était légitimement attendus à ce que la Loi de Moore permette de traiter rapidement le langage naturel. Et effectivement, aujourd’hui on sait bien reconnaitre des mots isolés. On sait à peu près éliminer les absurdités non conformes à la grammaire dans des phrases simples comme “le chat ment je la sous rit.” Mais pour distinguer entre “le chas mange la souris”, “le chat mange là, sous l’riz” et “le chaman gela, sourit” et , il faut comprendre le sens de la phrase, voire le contexte dans lequel elle est prononcée…

Si l’ordinateur doit connaitre la différence entre un quadrupède carnivore et le trou d’une aiguille pour traiter une phrase triviale, on imagine que ce n’est pas demain qu’on dictera des contrats* ou des rapports à une machine. De gros projets ont été lancés par des poids lourds de l’informatique pour tenter de modéliser la connaissance humaine. Par exemple le projet MindNet de Microsoft a analysé des millions de pages de textes existants pour construire un graphe sémantique gigantesque, duquel il ressort effectivement que dans une phrase comportant “chat” et “souris”, . Un tel graphe peut certainement être utile en car on dispose d’un texte de départ, mais pour la reconnaissance vocale il faudrait étendre le graphe à la structure des phrases utilisées en conversation courante, qui peut être bien distincte du langage écrit. Et pour faire ça automatiquement, il faudrait la reconnaissance vocale…

Comme le note Portner, on pensait au début que la reconnaissance vocale était un premiers pas vers l’intelligence artificielle. Aujourd’hui de nombreux chercheurs estiment que l’intelligence artificielle est indispensable pour atteindre une reconnaissance vocale de qualité acceptable . Les gros projets de recherche ont été abandonnés les uns après les autres, bloqués devant le mur si bien décrit par les sur l’intelligence artificielle comme:

“Une année de travail sur l’intelligence artificielle est suffisante pour vous faire croire en Dieu”

Le nombre de recherches sur “reconnaissance vocale” ou “ ” sur Google baisse régulièrement depuis 2001. Comme aucune idée fondamentalement nouvelle ne vient relancer la recherche, la reconnaissance vocale est morte, en toute discrétion.

Note* : me rappelle l’histoire de la secrétaire d’un célèbre ingénieur de la génération disctaphone qui avait commandé “310 mètres d’isolation entre 2 étages” au lieu de “3 centimètres” . Ca c’est avec les 2% d’erreurs de transcription humaines…

Références:

Microsoft Research :
Janet M. Baker et al. " ", IEEE Signal Processing Magazine \[75\]MAY 2009

Optimisation de la Joconde

Mon, 14 Jun 2010 00:00:00 +0000

Voici enfin l’occasion de consacrer un article marrant au célèbre mais barbant “ ”. J’ai réalisé une applet en processing qui dessine Mona Lisa avec une seule ligne brisée zig-zaguant entre 100'000 points sans jamais s’entrecouper. De plus la ligne n’a ni début ni fin, elle forme un cycle. Autrement dit, on peut dessiner la Joconde comme un cercle déformé, sans lever le crayon… Voici ce que ça donne ( c’est publié aussi :

\[processing\]

TSPart.pde

\[/processing\]

Le dessin a initialement été produit par , un prof de maths allemand qui étudie l’ “Opt Art”, l’utilisation de techniques d’optimisation dans l’art. La est assez simple:

on prend une image en “niveaux de gris”
on dispose un grand nombre N de points sur l’image, resserrés dans les zones sombres, plus espacés dans les zones claires. a eu l’idée d’utiliser l’algorithme “ ” qui fait ça de manière remarquable.
Ensuite, il suffit de résoudre le problème du voyageur de commerce à N villes pour obtenir le circuit le plus court entre les N points, donc sans intersection.

Quand vous lisez “il suffit de..” , il faut vous méfier. C’est souvent sous cette formule lapidaire qu’on cache l’os. En réalité, le problème du voyageur de commerce (“Travelling Salesman Problem” en anglais, TSP dans la suite) est un problème “NP-complet”, un de ceux qui nécessite un nombre “non polynomial” d’opérations pour sa résolution, “non polynomial” étant un euphémisme. En l’occurence, il faut en principe mesurer la longueur des N! (N …) possibles passant par les N points pour déterminer lequel est le plus court. Au delà de N=20, on oublie.

Mais le TSP a un intérêt certain pour beaucoup d’applications pratiques dans lesquelles N est bien plus grand, ce qui justifie la recherche d’algorithmes efficaces mêmes s’ils ne fournissent pas la solution absolument optimale. Le site est une mine d’exemples et d’infos sur les progrès de la résolution du TSP. On y trouve également , un solveur de TSP open source très performant basé sur la . Il détient le record du plus gros TSP résolu, pour N=85'500 calculé en 135 années de CPU, mais résout des problèmes raisonnables en un temps qui l’est aussi. J’ai eu l’occasion de m’en servir pour optimiser le parcours d’une perceuse de circuits imprimés où N valait autour de 1000: quelques minutes de calcul permettent d’économiser des secondes de travail par circuit. Il existe d’ailleurs un pour résoudre vos (pas trop gros) problèmes de TSP.

Pour revenir à la Joconde, elle fait l’objet d’un petit car il n’est pas sur que le chemin affiché dans l’image soit le plus court possible entre les 100'000 points définis par R. Bosch. Ce chemin, calculé par Yuichi Nagata avec Concorde a une longueur de 5'757'191 unités, alors qu’on a pu déterminer que le chemin ne peut pas être plus court que 5'757'044 unités. Il est donc possible qu’il existe un chemin encore plus court de 0.0026% ! Tout ce qu’il vous faut pour le trouver, c’est le fichier , et touiller un peu le code de Concorde ou de son concurrent . Ah, et un superordinateur peut être utile aussi. Si vous trouvez le chemin le plus court, vous gagnerez la somme mirobolante de $100 !

edit du 20/9/13 : l’applet utilise maintenant Processing.js, mais le chargement des données est très lent…

Références:

Robert Bosch, “ ", Math Horizons, February 2006, pages 6–9.
Adrian Secord, “ ”, 2002, Proceedings of 2nd , Annecy, p 37-43

Hardware, software, tabula ?

Sat, 10 Apr 2010 00:00:00 +0000

Au début, tout était clair : un ordinateur était un assemblage de circuits électroniques formant le , piloté par du définissant la séquence d’opérations à effectuer. Et puis tout est devenu compliqué.

Charles Babbage, inventeur de la première machine programmable, et Ada Lovelace, auteur du premier logiciel

D’une part, pour réaliser des opérations plus complexes, il est apparu plus simple de les “ ” : les puces des processeurs incorporent du logiciel “figé” qui décompose chaque instruction du en opérations encore plus simples.

D’autre part, les permettent désormais de réaliser des circuits électroniques très complexes par programmation. A l’aide d’un langage spécifique comme , on décrit le fonctionnement du circuit, puis un compilateur génère des données que l’on écrit dans le circuit comme dans une mémoire afin de le configurer comme souhaité. De plus en plus de puces trônant dans vos téléphones portables, appareils photo, voitures ainsi que dans toutes les machines industrielles imaginables sont de ce type. On peut ainsi y implanter des fonctions spécifiques à l’application s’exécutant de façon extrêmement rapide, et au besoin adjoindre sur la même puce, par programmation toujours, un “ ” permettant d’exécuter un logiciel traditionnel. Bref, maintenant on peut programmer un circuit vierge pour qu’il se comporte comme un microprocesseur microprogrammé programmable, vous me suivez ?

Les circuits “PLD” peuvent être programmés une fois pour toutes, éventuellement reprogrammés de temps en temps à l’instar d’une mémoire flash. Les , plus récentes, se programment comme des mémoires RAM, et sont donc reprogrammables souvent et rapidement.

L’étape suivante pourrait être de les reprogrammer en fonctionnement. C’est ce que propose l’entreprise avec sa technologie “3D Spacetime” incarnée dans ses circuits . Ces circuits peuvent être reprogrammés des milliers de fois par seconde et peuvent donc réaliser sur une seule puce des fonctions qui auraient nécessité plusieurs circuits très différents.

En quelque sort, Tabula réalise l’équivalent de puces “multicouches” en empilant des surfaces de silicium selon la dimension du temps. On peut objecter que ceci réduit d’autant la vitesse des circuits, mais d’autre part, on peut optimiser la surface de silicium réellement utilisée à chaque étape, par exemple pour traiter plus de données en parallèle. Point non négligeable, cette technologie réduit aussi beaucoup le coût de l’interconnexion des puces : on remplace des connecteurs en or et du circuit imprimés multicouches par des bits de données. Bientôt un PC au format d’une boite d’allumette, voire au même prix ?

Plus ça avance, plus la me semble avoir encore de beaux jours devant elle. Merci à Malcolm pour avoir renforcé mon optimisme en me parlant de Tabula. Et peut-être bien que j’achèterai quelques actions quand ils seront cotés…

Echelle interactive de l'Univers

Sat, 30 Jan 2010 00:00:00 +0000

indique une très jolie réalisation graphique en Flash permettant de zoomer dans les ordres de grandeur de l’Univers, sur le modèle des impérissables “ ”, mais en interactif :

cliquez sur l’image pour la version interactive

Il y a décidément encore un trou de plusieurs ordres de grandeur entre le “diamètre” du neutrino et la …

Tri réversible ?

Sat, 30 Jan 2010 00:00:00 +0000

animation de l’algorithme Quick Sort

En informatique, le tri est une opération incontournable car il est beaucoup plus rapide de rechercher une information dans une liste triée que dans un fouillis. C’est pourquoi j’ai longtemps cru qu’une liste triée contenait plus d’information qu’une liste non triée, car je voyais le tri comme un pré-traitement permettant d’accélérer les opérations suivantes, donc un “plus” par rapport à une situation “moins” performante.

Pris d’un doute il y a quelques années, j’avais posé la question sur un forum consacré à l’informatique théorique :

“est-ce qu’une liste triée contient vraiment plus d’information qu’une liste non triée ?”

Un érudit professeur m’avait répondu simplement ceci :

“ce contient d’ est- information liste liste? non plus qu’ qu’ triée triée une une vraiment”.

J’ai mis un moment à comprendre la profondeur de cette réponse : ma question, une fois les mots triés par ordre alphabétique, était devenue incompréhensible, et contenait donc moins d’information que la phrase originale ! Depuis je sais que .

a reposé la question sous un angle intéressant : est-il possible de programmer un algorithme de tri “réversible”, permettant de remettre une liste triée dans son état initial ? Évidemment oui : il suffit de stocker en plus l’information perdue lors du tri, le plus simple étant de mémoriser l’état initial de la liste par exemple en ajoutant à chaque élément trié son numéro d’ordre :

“ce2 contient7 d’10 est-1 information11 liste5 liste14 non15 plus9 qu'3 qu'12 triée6 triée?16 une4 une13 vraiment8 ”.

Pour une liste contenant n éléments, on a besoin de log(n) bits* pour stocker chaque numéro, donc de n.log(n) bits au total.

Peut-on faire mieux? On pourrait se dire que beaucoup d’ comme permutent des éléments après les avoir comparés, et qu’il suffirait donc de stocker le résultat des comparaisons effectuées, soit un bit par test, pour pouvoir ensuite “défaire le tri” en parcourant la liste des bits à l’envers. Combien faut-ils de bits ? ben … au moins n.log(n) aussi puisque c’est justement le nombre de comparaisons qui détermine la “complexité” des algorithmes de tri, et que les bons algorithmes ont une complexité de n.log(n).

Rien ne sert de se casser la tête sur “algorithme de tri réversible”, il ne peut pas être plus efficace que de simplement stocker l’ordre initial des données. Etonnant non ?

Le problème, c’est que la donnée du concours spécifie qu’on n’a le droit de stocker que 50% d’information supplémentaire par rapport à la taille des données : si on trie 4K octets, on n’a droit qu’à 2K de données supplémentaires. Or en fonction de ce qui précède on a besoin de 4096*log(4096) bits, soit 6K, plus que les données! En passant, ça signifie qu’en de petites données, on peut perdre plus de la moitié de l’information contenu dans la liste initiale !

Bref, personne n’a gagné le petit concours parce que ce n’était tout simplement pas possible.,

Note* : en informatique, log(n) dénote évidemment le binaire ou base 2

Das System

Wed, 13 Jan 2010 00:00:00 +0000

Entre le foie gras et les flocons, j’ai dévoré “Das System”, un thriller technologique de l’allemand Karl Olsberg sur l’apparition d’une intelligence artificielle distribuée sur internet.

Une startup (allemande) crée une sorte de pour prévoir la météo en utilisant la puissance de calcul des PC disséminés sur internet. Mais le truc devient un virus (un BOINC viral… idée à retenir …), et le système devient intelligent, conscient, et dangereux…

Vous avez peur ? Science-fiction futuriste ? En fait, plusieurs penseurs et scientifiques soutiennent que nous ne sommes qu’à quelques décennies de la , le moment où les outils que nous avons crées n’auront plus besoin de nous pour fonctionner, ni pour produire d’autres outils. Aujourd’hui déjà, on estime que la puissance de humain, et la nous promet l’équivalent artificiel des cerveaux de toute l’humanité dans 35 ans maximum…

Comme le mentionne un prof dans le roman, les microprocesseurs se reproduisent désormais beaucoup plus vite que les humains. Ils “se” reproduisent, car la conception et la production de machines ne peut plus s’envisager sans machines. En même temps qu’une extinction d’espèces basées sur la chimie du carbone, sommes-nous en train de démarrer une biologie du silicium ? Pour l’instant nous sommes encore indispensables pour certaines opérations délicates, notamment programmer, mais pour combien de temps ? Si un jour un logiciel devient capable de s’auto-améliorer en modifiant son propre code, ce ne sera plus qu’une question de secondes avant qu’on doive devenir très polis avec nos ordinateurs, dans le meilleur des cas…

La force du roman est de rendre ce scénario assez vraisemblable malgré d’inévitables raccourcis réducteurs, ou du moins de susciter la réflexion. Un bon bouquin à la Crichton donc, mais vous pouvez aussi attendre le film qui ne devrait pas tarder…

Référence :

Karl Olsberg (2009). Das System. Actes Sud.

Voir aussi:

et (en allemand)
“ sur La culotte à l’envers

Atlas Digital de l'Univers

Sun, 20 Dec 2009 00:00:00 +0000

le a produit “L’Univers Connu”, une sorte de remake des “ ” mais dans lequel la position des étoiles et des galaxies correspond aux mesures actuelles:

En prime, ils offrent l’ utilisé pour cette réalisation avec le logiciel de visualisation “PartiView” au , ce qui vous permet d’explorer l’Univers connu sur votre propre ordinateur et de réaliser votre propre voyage intersidéral dans une qualité graphique assez spectaculaire.

est un visualiseur de données développé par le NCSA et distribué en open source. Outre l’Atlas Digital, il est utilisé dans de nombreux travaux scientifiques en astrophysique comme qui montre la trajectoire des étoiles proches du

Trajectoires des étoiles proches du centre galactique. Cliquez pour comparer aux observations

Sur la page de PartiView, on trouve de nombreuses données astronomiques et textures de planètes qui en font un planétarium très complet et puissant, quoique moins facile d’emploi que ou par exemple.

source :

reMap

Mon, 27 Jul 2009 00:00:00 +0000

Le s’accompagne de travaux intensifs sur la visualisation d’énorme quantités de données, un domaine qui combine maths (graphes, algorithmique …) et art. Le site répertorie des centaines de visualisation extrêmement variées réalisées pour des applications aussi diverses que la biologie, la , la politique, internet et les réseaux sociaux etc.

Avec toutes ces visualisations, il devenait utile de disposer d’un visualisateur de visualisations… C’est ce qu’ont réalisé les infographistes de dont j’avais déjà parlé avec une nouvelle réalisation épatante : .

ReMap permet de naviguer de façon interactive et animée dans en mettant en évidence les relations entre les visualisations.

Heures de navigation instructive et multicolore droit devant!

source :

Comment marche Shazam

Sat, 11 Jul 2009 00:00:00 +0000

Si vous ne connaissez pas , demandez à un propriétaire d’iPhone (eux) ou de Google Phone sous Androïd ( ) de vous montrer cette application incroyable. Si personne dans votre entourage ne vit au 21ème siècle, vous pouvez toujours regarder .

Vous ne rêvez pas : Shazam est capable d’identifier en quelques secondes la musique que vous êtes en train d’écouter à la radio, dans un bar bruyant, ou le générique d’une émission TV ou que sais-je. On dirige le micro du téléphone vers un haut-parleur, on clique un seul bouton et Shazam! le titre du morceau apparait, avec les liens qu’il faut pour l’acheter, évidemment. Business is business.

Ce qui nous intéresse ici, c’est de savoir comment diable Shazam fait pour reconnaitre quasi-instantanément 10 secondes de son parmi 8 millions de morceaux de musique de 3 minutes chacun, soit un total de 1.44 milliards de secondes, ou 45 ans de musique, et ceci même lorsque la musique est diffusée par une mauvaise sono et captée par un mauvais micro dans un environnement bruité. Ca ne vous épate peut être pas si vous n’êtes pas dans la technique, mais moi je suis resté coi d’une hébétude aussi stupéfaite qu’interloquée. Sur le cul, quoi.

Pour comprendre, j’ai un peu fouillé et trouvé que la technologie appartient à qui a notamment acquis la propriété intellectuelle de dénommés et David Culbert. Leur brevet de 2003

\[1\]

est un modèle du genre : il décrit le système en termes suffisamment généraux pour comprendre le principe, mais en évitant soigneusement de donner des informations précises sur comment ça marche vraiment. Mais voici tout de même ce que j’en ai compris.

Shazam compare des “empreintes” calculées à des instants remarquables du morceau, par exemple lorsque des notes apparaissent nettement dans le diagramme temps/fréquence du morceau. Pour des raisons expliquées plus bas il faut comparer environ une centaine d’empreintes, et comme Shazam demande d’enregistrer une dizaine de secondes de musique, j’en déduis qu’ils prennent environ 10 empreintes par seconde, donc que chaque morceau est stocké chez eux sous la forme de 1800 empreintes environ.

"FFT" est un joli petit programme qui affiche le diagramme temps/fréquence d’un mp3

Le brevet est extrêmement vague sur le problème clé du calcul des empreintes. Il mentionne une liste de caractéristiques du son qui pourraient être utilisées, et indique qu’un choix judicieux permet de s’affranchir de diverses perturbations du son, en particulier de décalages fréquentiels, mais surtout que l’empreinte peut être ramenée à un nombre de 32 bits seulement. Avec ce qui précède, il en résulte que les empreintes d’un morceau complet ne nécessitent que 7K de mémoire, et que toute la base de données de Shazam tient sur 54 Gigabytes seulement, ce qui veut dire qu’elle peut tenir dans la mémoire RAM d’une vingtaine de PC actuels.

Reste à retrouver dans cette masse d’empreintes la centaine d’empreintes obtenues à partir de la musique transmise depuis votre téléphone. Et là, la méthode est génialement simple : Pour chaque empreinte, Shazam regarde à quels morceaux elle pourrait appartenir en utilisant simplement l’empreinte comme une clé dans la base de données. En effet, comme 32 bits permettent de coder plus de 4 milliards de possibilités alors que la base ne contient “que” 14 milliards d’empreintes, une empreinte donnée se retrouve en moyenne dans 3 morceaux seulement. Puisque les empreintes tirées de l’échantillon sont bruitées, il faut comparer une centaine d’empreinte qui vont chacune correspondre à 3 morceaux, donc on se retrouvera avec 300 morceaux potentiellement candidats.

C’est là que le brevet de Shazam frappe fort : si 2 empreintes seulement correspondent à un même morceau, on considère que c’est celui-là ! En effet, il n’y a qu’environ un risque sur 25'000 que l’un des 300 morceaux suspecté à cause d’une empreinte bruitée corresponde à l’un des 3 morceaux identifié par une empreinte correcte.

La technologie de Shazam/Landmark permet aussi d’autres applications, comme reconnaître la musique utilisée dans les bandes son des vidéos sur YouTube et la virer si elle est soumise à copyright, ou peut-être aussi identifier des mp3 échangés sur des réseaux p2p, des trucs comme ça …

Car pour la reconnaissance de la musique, il y a désormais encore plus fort que Shazam : . Avec Midomi, il suffit de chantonner, siffloter ou hmmm-hmmm-er un air pour qu’il en retrouve le titre et l’auteur. Mais ça m’épate moins parce qu’avec moi, ça ne marche pas. Ni “Yellow Submarine”, ni “Frère Jacques”, ni même , rien.

Référence

WANG, Avery Li-Chun and CULBERT, Daniel, “Robust and invariant audio pattern matching”, 2003,
Avery Wang, “An Industrial-Strength Audio Search Algorithm”, 2003, ISMIR 2003, 4th International Conference on Music Information Retrieval, Baltimore, Maryland, USA \[article pdf](http://www.ee.columbia.edu/~dpwe/papers/Wang03-shazam.pdf)\] \[[slides pdf\]( ]_[[slides_pdf)(http://ismir2003.ismir.net/presentations/Wang.pdf)
\[altmetric doi="10.1145/1145287.1145312" float="right"\]Avery Wang “The Shazam music recognition service”, 2006 , Communications of the ACM - Music information retrieval Volume 49 Issue 8, Pages 44-48

Il y a plein de place en bas

Thu, 11 Jun 2009 00:00:00 +0000

tentative de modélisation de la pensée de Feynman

Traduction de la présentation que a donné le 29 décembre 1959 à la réunion annuelle de l’American Physical Society à (Caltech). Intitulé “ ”, ce discours visionnaire pose les bases de la course à la miniaturisation qui nous fournit chaque année des ordinateurs et autres gadgets plus puissants, plus fiables et moins chers, et qui nous amène vers les .

Traduit par Philippe Guglielmetti ( ) et Maxence Dolle* en 2009

Introduction

J’imagine que beaucoup de physiciens expérimentateurs doivent envier les hommes comme Kamerlingh Onnes, qui a découvert un domaine sans fond comme la basse température, dans lequel on peut creuser indéfiniment. Un tel homme est un chef de file et a un quasi monopole, temporaire, dans une aventure scientifique. Percy Bridgman, en concevant un moyen d’obtenir des pressions supérieures, a aussi ouvert un nouveau domaine pour lui et pour nous. La technique du vide de plus en plus poussé est un développement continu de même nature.

Je voudrais décrire un domaine dans lequel peu a été fait, mais où d’énormes progrès peuvent en principe être fait. Ce domaine n’est pas tout à fait de la même nature que les autres dans la mesure où il nous apporte pas beaucoup sur la physique fondamentale (“Quelles sont les particules étranges?’’), mais il concerne plus l’état solide de la matière, et pourrait nous dire beaucoup de choses très intéressantes sur les phénomènes étranges qui se produisent dans des situations complexes. En outre, le point le plus important, c’est qu’il aurait un très grand nombre d’applications techniques.

Ce dont je veux parler est le problème de la manipulation et le contrôle des choses à très petite échelle.

Dès que je mentionne cela, les gens me parlent de la miniaturisation, et dans quelle mesure elle a déjà progressé aujourd’hui. Ils me parlent de moteurs électriques de la taille de l’ongle de votre petit doigt. Et il y a un appareil sur le marché, me disent-ils, avec lequel vous pouvez écrire la prière du Seigneur sur la tête d’une épingle. Mais ceci n’est rien, ce n’est que le premier arrêt dans la direction dont je veux parler. Le monde qui est en dessous est incroyablement petit. En l’an 2000, date à laquelle ils auront du recul sur notre époque, ils se demanderont pourquoi il a fallu attendre 1960 pour que le monde commence sérieusement à aller dans cette direction.

Pourquoi ne pourrions-nous pas écrire l’ensemble de 24 volumes de l’Encyclopedia Brittanica sur une tête d’épingle?

Voyons ce qui serait en cause. Une tête d’épingle a un diamètre de un seizième de pouce. Si vous agrandissez son diamètre d’un facteur 25'000, la surface de la tête est alors égale à la surface de toutes les pages de l’encyclopédie Brittanica. Par conséquent, tout ce qu’il serait nécessaire de faire serait de réduire la taille tous les textes de l’encyclopédie 25000 fois. Est-ce possible? Le pouvoir de résolution de l’œil est d’environ 1 / 120 de pouce, ce qui est à peu près le diamètre d’un des petits points sur la trame des illustrations en noir/blanc de l’Encyclopédie. Ceci, lorsque vous le réduisez 25'000 fois, a encore un diamètre de 80 angströms, soit 32 atomes d’un métal ordinaire. En d’autres termes, un de ces points couvrirait encore environ 1000 atomes. Ainsi, chaque point peut être réduit à cette taille comme l’exige la photogravure, et il ne fait aucun doute qu’il y a assez de place sur la tête d’une épingle pour contenir toute l’Encyclopédie Brittanica.

En outre, si on peut l’écrire ainsi, elle pourra être lue. Imaginons qu’on écrive les lettre de métal en relief, en embossant le noir et les lettres réduites à 1 / 25'000ème de leur taille ordinaire. Comment pourrions-nous lire?

Si nous avions quelque chose d’écrit ainsi, nous pourrions le lire à l’aide des techniques couramment utilisées aujourd’hui. (Il y aura sans doute de meilleures façons une fois que nous serons capables de l’écrire, mais pour rendre mon argument convaincant, je ne vais utiliser que des techniques connues aujourd’hui.) Nous presserions contre le métal un matériau plastique afin d’en faire un moule, puis pèlerions le plastique très délicatement et évaporerions de la silice dans le plastique pour obtenir un film très mince, puis masquerions par évaporation de l’or contre la silice de sorte que toutes les petites lettres apparaîtraient clairement, et nous pourrions les lire avec un microscope électronique une fois le plastique dissout!

Il ne fait aucun doute que si le texte était réduit 25'000 fois sous forme de lettres gravées sur l’épingle, il serait facile pour nous de le lire aujourd’hui. De plus, il ne fait aucun doute que nous trouverons un moyen facile de faire des copies de l’original; nous suffirait d’appuyer sur la même surface de métal à nouveau du plastique et nous aurions une autre copie.

Comment peut-on écrire petit?

La question suivante est: Comment pouvons-nous écrire? Nous n’avons pas de moyen technique pour le faire maintenant. Mais permettez-moi de soutenir que ce n’est pas aussi difficile que ça semble l’être.Nous pouvons inverser les lentilles du microscope électronique afin de réduire plutôt que grossir. Une source d’ions traversant les objectifs du microscope en marche arrière pourrait être focalisée sur une très petite surface.Nous pourrions écrire à cet endroit comme nous écrivons sur l’écran d’une TV à rayons cathodiques, ligne par ligne, en ajustant la quantité de matière qui va être déposée pendant que nous balayons les lignes.

Cette méthode pourrait être très lente en raison des limites de charge de l’espace. Il y aurait des méthodes plus rapides.Nous pourrions peut-être en premier lieu faire par technique photographique un écran avec des trous ayant la forme des lettres. Ensuite, nous pourrions créer un arc derrière les trous et tirer des ions métalliques à travers les trous, en utilisant à nouveau notre système de lentilles pour focaliser les ions, ce qui créerait le dépôt de métal sur la broche.

Il y aurait peut être même un moyen plus simple que cela (même si je ne suis pas sûr que cela fonctionnerait): Prenons de la lumière et, à travers un microscope optique fonctionnant à l’envers, nous la concentrons sur un très petit écran photoélectrique. Donc des électrons sortent de l’écran où la lumière brille. Ces électrons sont concentrés à la bonne taille par le microscope électronique et éroderaient directement la surface du métal. Est-ce qu’un tel faisceau enlèverait du métal assez vite?Je ne sais pas. Si cela ne marche pas pour une surface métallique, il doit être possible de trouver une surface avec laquelle recouvrir les épingles qui, une fois bombardée par les électrons, est modifiée d’une façon que l’on pourrait reconnaître plus tard.

Il n’y a pas de problème d’intensité avec ces dispositifs, rien de ce que vous connaissez avec le grossissement, où vous devez prendre un peu d’électrons pour les diffuser sur une plus grand écran, c’est tout le contraire. La lumière obtenue d’une page est concentrée sur une très petite zone, où elle est très intense. Les quelques électrons qui proviennent de l’écran photoélectrique sont réduits sur une très petite zone de sorte que, là encore, ils sont très intenses. Je ne sais pas pourquoi cela n’a pas encore été fait!

Voilà pour l’encyclopédie Brittanica sur la tête d’une épingle, mais nous allons maintenant examiner tous les livres du monde. La Bibliothèque du Congrès possède environ 9 millions de volumes, la bibliothèque du British Museum a 5 millions de volumes, il y a aussi 5 millions de volumes de la Bibliothèque nationale de France. Il ne fait aucun doute qu’il y a des doublons, mais disons qu’il y a quelque 24 millions de volumes intéressants dans le monde.

Que se passerait-il si je les imprimais tous à l’échelle dont nous avons discuté?Combien de place cela prendrait-il ?Il faudrait, bien sûr, la superficie d’environ un million de têtes d’épingle parce que, au lieu d’avoir juste les 24 volumes de l’Encyclopédie, il y a 24 millions de volumes. Le million de têtes d’épingle peut être mis dans un carré d’un millier d’épingles de côté, soit environ 3 mètres carrés. Ca signifie que la réplique en silicium avec la feuille de plastique mince utilisé pour effectuer les copies, avec l’ensemble de ces informations totalise une superficie d’environ 35 pages de l’Encyclopédie. C’est environ la moitié du nombre de pages de ce magazine. Toutes les informations que l’humanité tout entière a enregistré dans les livres peuvent être transportés dans une brochure tenant dans votre main, et pas seulement le texte, mais aussi la reproduction des photos, gravures, et tout le reste à une petite échelle sans perte de résolution.

Que dirait notre bibliothécaire à Caltech, si je lui disais que dans dix ans à compter de maintenant toutes les informations dont elle a la charge, soit 120'000 volumes empilés du sol au plafond, les tiroirs plein de cartes, les locaux d’entreposage pleins d’anciens livres pourront être conservées sur une seule carte de bibliothèque! Si l’Université du Brésil, par exemple, constate que sa bibliothèque a brûlé, nous pourrions lui envoyer un exemplaire de chaque livre de notre bibliothèque en gravant une copie de notre plaque en quelques heures et en l’envoyant dans une enveloppe pas plus grosse ni plus lourde qu’une lettre ordinaire de poste aérienne.

Mais le nom de cet exposé est “Il y a beaucoup de place en bas”, pas seulement “il y a de la place à la bas”. Ce que j’ai démontré est qu’il est possible que nous puissions réduire la taille de choses d’une manière pratique. Je vais maintenant montrer qu’il y a beaucoup de place. Je ne vais pas discuter maintenant comment nous allons le faire, mais seulement ce qui est possible en principe, en d’autres termes ce qui est possible selon les lois de la physique. Je ne suis pas en train d’inventer l’anti-gravité, ce qui ne sera possible un jour que si les lois ne sont pas ce que nous pensons. Je vous le dis ce qui pourrait être fait si les lois sont ce que nous pensons, nous ne le faisons pas déjà simplement parce que nous n’avons pas encore trouvé comment le faire.

L’information à petite échelle

Supposons que, au lieu d’essayer de reproduire les photos et toutes les informations directement dans leur forme actuelle, nous écrivons seulement le contenu de l’information dans un code de points et de tirets, ou quelque chose comme ça, qui représentent les diverses lettres. Chaque lettre représente six ou sept “bits” d’information, c’est-à-dire que vous n’avez besoin que d’environ six ou sept points ou des tirets pour chaque lettre. Maintenant, au lieu d’écrire tout sur la surface de la tête d’une épingle comme je l’ai fait auparavant, je vais aussi utiliser l’intérieur du matériau.

Représentons un point par une petite tache de métal, le prochain point par une autre tache de métal, et ainsi de suite. Supposons, pour être large, qu’un bit d’information nécessite un petit cube d’atomes 5 fois 5 fois 5, soit 125 atomes.Nous avons probablement besoin d’une centaine d’atomes pour faire en sorte que l’information ne soit pas perdue par diffusion ou par tout autre effet.

J’ai estimé combien de lettres il y a dans l’Encyclopédie, et j’ai supposé que chacun des 24 millions de livres est gros comme un volume d’encyclopédie volume, et j’ai calculé combien de bits d’information y sont stockés : 10^15.Pour chaque bit je consacre 100 atomes. Il s’avère que toutes les informations que l’homme a soigneusement accumulé dans tous les livres dans le monde peut tenir sous cette forme dans un cube de 0.127 mm de côté, soit le plus fin morceau de poussière visible à l’oeil humain. Donc, il y a beaucoup de place en bas! Et ne me parlez pas des microfilms!

Ce fait, que d’énormes quantités d’information peuvent être transportées dans un très petit espace, est bien sur connu des biologistes et résout le mystère qui existait avant que nous comprenions tout clairement, à savoir la manière dont toutes les informations sur l’organisation d’une créature aussi complexe que nous puisse être stockées dans une minuscule cellule. Toutes ces informations, si nous avons les yeux bruns, ou si nous pouvons penser, ou que dans l’embryon le maxillaire devrait d’abord développer avec un petit trou sur le côté afin que plus tard, un nerf puisse se développer à travers lui, toutes ces informations figurent dans une très infime partie de la cellule sous la forme d’une longue chaîne de molécules d’ADN dans laquelle environ 50 atomes de la cellule sont utilisés pour un bit d’information.

De meilleurs microscopes électroniques

Si j’avais un code écrit avec 5x5x5 atomes par bit, comment pourrais-je le lire aujourd’hui?Le microscope électronique n’est pas tout à fait assez bon : avec beaucoup de soin et d’effort, il n’a qu’une résolution d’environ 10 angströms. Je voudrais essayer de vous convaincre de l’importance d’améliorer le microscope électronique par un facteur cent. Ce n’est pas impossible : ce n’est pas contraire aux lois de la diffraction de l’électron. La longueur d’onde de l’électron dans un tel microscope est de seulement 1/20 d’angström. Donc, il devrait être possible de voir les atomes. Mais à quoi bon voir distinctement des atomes individuellement?

Nous avons des amis dans d’autres domaines, en biologie, par exemple.Nous les physiciens, nous les regardons souvent en disant “vous savez pourquoi vos chercheurs font si peu de progrès?"(En fait je ne connais pas d’autre domaine où les progrès sont plus rapides qu’en biologie aujourd’hui).“Vous devriez utiliser plus les mathématiques, comme nous le faisons.“Ils pourraient nous répondre, mais ils sont polis, donc je vais répondre pour eux: “Ce que vous devriez faire pour que nous puissions faire des progrès plus rapides, c’est un microscope électronique 100 fois meilleur.”

Quels sont les problèmes les plus centraux et fondamentaux de la biologie aujourd’hui?Ce sont des questions telles que: qu’est-ce que la séquence de bases dans l’ADN?Que se passe-t-il lors d’une mutation?Comment l’ordre des bases dans l’ADN est-il lié à l’ordre des acides aminés dans les protéines? Quelle est la structure de l’ARN, est-ce une chaîne unique ou double, et comment est-il lié à l’ordre des bases de l’ADN?Quelle est l’organisation des microsomes? Comment sont synthétisées les protéines ?Où va l’ARN ? Où réside-t-il ?Où résident les protéines? Où interviennent les acides aminés? Dans la photosynthèse, où est la chlorophylle, comment est-elle organisée, les caroténoïdes sont-ils impliqués dans ce processus? Quel est le mécanisme de la conversion de la lumière en énergie chimique?

Il est très facile de répondre à bon nombre de ces questions biologiques fondamentales : il suffit regarder la chose! Vous verrez l’ordre de bases de la chaîne, vous verrez la structure des microsomes. Malheureusement, le microscope actuel voit à une échelle qui est juste un peu trop grossière.Faites un microscope une centaine de fois plus puissant, et de nombreux problèmes de la biologie seraient beaucoup plus faciles. J’exagère, bien sûr, mais les biologistes vous seraient certainement très reconnaissants et vous pardonneraient la critique selon laquelle ils doivent avoir recours à plus de mathématiques.

La théorie des processus chimiques d’aujourd’hui est basée sur la physique théorique. En ce sens, la physique fournit la base de la chimie. Mais la chimie a également l’analyse. Si vous avez une substance étrange et vous voulez savoir ce que c’est, vous passez par le processus long et complexe de l’analyse chimique.Vous pouvez analyser presque tout aujourd’hui, je suis donc un peu en retard avec mon idée. Mais si les physiciens voulaient, ils pourraient également creuser le problème de l’analyse chimique. Il serait très facile de faire une analyse de toute substance chimique complexe, tout ce qu’il y aurait à faire serait de la regarder et de voir où sont les atomes. Le seul problème est que le microscope électronique est une centaine de fois trop mauvais. (Plus tard, je demanderai : qu’est-ce que les physiciens peuvent au sujet du troisième problème de la chimie, à savoir la synthèse?) Y’a-t-il un moyen physique de synthétiser n’importe quelle substance chimique?

La raison pour laquelle le microscope électronique est si mauvais, c’est que la focale (f-value?) des lentilles n’est que de 1/1000. Vous n’avez pas une assez grande ouverture numérique. Et je sais qu’il ya des théorèmes qui prouvent qu’il est impossible, avec des lentilles a symétrie axiale à champ stationnaire, de produire une valeur f plus grande que tant, et donc que le pouvoir de résolution à l’heure actuelle est à son maximum théorique. Mais dans tous les théorème existent des hypothèses.Pourquoi le champ doit être symétrique?Je pose ceci comme un défi: n’existe-t-il aucun moyen de rendre le microscope électronique plus puissant?

Le merveilleux système biologique

L’exemple biologique de l’écriture d’information informations à petite échelle m’a incité à penser à quelque chose qui devrait être possible. La biologie ne consiste pas simplement à écrire des informations, c’est faire quelque chose avec. Un système biologique peut être extrêmement petit.Bon nombre des cellules sont très petites, mais très actives, elles fabriquent des substances diverses, elles se promènent, se tortillent, et font toutes sortes de choses merveilleuses, tout ceci à une très petite échelle. En outre, elles stockent de l’information. Envisagez la possibilité que nous puissions également faire des chose très petites qui feraient ce que nous voulons, imaginez que l’on puisse fabriquer un objet qui manœuvre à cette échelle!

Il y aurait peut-être même un intérêt économique de faire des choses très petites. Permettez-moi de vous rappeler quelques-uns des problèmes des machines à calculer. Dans les ordinateurs, nous devons stocker une énorme quantité d’informations. Le type d’écriture que j’ai mentionné précédemment, dans lequel tout serait gravé dans le métal, est permanente. Mais pour les ordinateurs il est beaucoup plus intéressant de pouvoir écrire, effacer et écrire autre chose. (C’est d’ailleurs parce que nous ne voulons pas gaspiller les éléments sur lesquels nous venons d’écrire.Pourtant, si nous pouvions écrire dans un très petit espace, cela ne ferait aucune différence, il pourrait simplement être jeté après avoir été lu, car le matériel ne couterait presque rien.)

Miniaturiser l’ordinateur

Je ne sais pas comment les rendre petites en pratique, mais je sais que les machines informatiques sont trop grandes, elles remplissent des pièces.Pourquoi ne pouvons-nous pas les rendre très petites, avec de petits fils et de petits composants, et par petits, je veux dire vraiment petits ? Par exemple, les fils devrait avoir 10 ou 100 atomes de diamètre, et les circuits ne devraient avoir que quelques milliers d’angströms. Tous ceux qui ont analysé la théorie logique des ordinateurs parvient à la conclusion que les possibilités des ordinateurs seraient très intéressants, s’ils pouvaient être rendus moins complexes de plusieurs ordres de grandeur. S’ils avaient des millions de fois plus d’éléments, ils pourraient émettre des jugements. Ils auraient le temps de calculer le meilleur moyen de faire le calcul qu’ils sont sur le point de faire. Ils pourraient choisir la méthode d’analyse qui, par leur expérience, serait meilleure que celle que nous leur fournirions. Et ils auraient plusieurs nouvelles caractéristiques qualitatives.

Si je regarde votre visage, je sais immédiatement que je l’ai vu avant. (En fait, mes amis vont dire que j’ai choisi un exemple malheureux pour illustrer ce sujet. Mais au moins, je reconnais que c’est un homme et pas une pomme.)Pourtant, il n’existe pas de machine qui puisse aussi vite prendre une image d’un visage et dire qu’elle représente un homme, et encore moins que c’est le même homme que sur une précédente photo, à moins que ce ne soit exactement la même image. Si le visage est changé, si j’en suis plus proche, ou plus loin, si la lumière n’est pas la même, je le reconnais quand même. Mais ce petit ordinateur que je porte dans ma tête est capable de le faire facilement. Les ordinateurs que nous construisons ne sont pas en mesure de le faire. Le nombre d’éléments dans ma boîte osseuse est énormément plus élevé que le nombre d’éléments dans notre plus “merveilleux” ordinateur. Mais nos ordinateurs mécaniques sont trop gros; alors que les éléments dans cette boite sont microscopiques. Je veux en faire qui soient sub-microscopiques.

Si nous voulions faire un ordinateur ayant tous ces merveilleuses capacités supplémentaires, il devrait avoir, peut-être, la taille du Pentagone. Ceci a plusieurs inconvénients. Tout d’abord, il faut trop de matériel: il n’y a pas assez de germanium dans le monde pour tous les transistors qui doivent être mis dans cette énorme chose. Il y a aussi le problème de la production de chaleur et de la consommation d’énergie; la TVA# serait nécessaire pour faire tourner l’ordinateur. Mais une difficulté plus importante est que l’ordinateur serait limité à une certaine vitesse. En raison de sa grande taille, il faut un certain temps pour transférer l’information d’un endroit à l’autre. L’information ne peut pas aller plus vite que la vitesse de la lumière, donc si, nous voulons obtenir des ordinateurs de plus en plus rapides et de plus en plus élaborés, nous aurons à les rendre de plus en plus petits. Mais il y a beaucoup de place pour les rendre plus petits. Il n’y a rien que je puisse voir dans les lois physiques qui dise que les composants des ordinateurs ne peuvent pas être considérablement plus petits qu’ils ne le sont maintenant. En fait, il y aurait même des avantages.

La miniaturisation par évaporation

Comment pouvons-nous réaliser un tel dispositif? Quel genre de procédés de fabrication utiliserions-nous?Une possibilité que nous pourrions envisager, puisque nous avons parlé d’écrire en positionnant des atomes dans un certain arrangement, serait de faire évaporer le matériau, puis de faire évaporer l’isolant à côté. Ensuite, pour la couche suivante, faire évaporer une autre position du fil, un autre isolant, et ainsi de suite. Ainsi, il vous suffit de faire évaporer jusqu’à ce que vous ayez un bloc de choses qui contienne les éléments - bobines et condensateurs, transistors et ainsi de suite - de dimensions extrêmement fines.

Mais je voudrais examiner, juste pour le divertissement, les autres possibilités.Pourquoi ne pouvons-nous pas fabriquer ces petits ordinateurs un peu comme nous fabriquons les plus gros?Pourquoi ne pouvons-nous pas percer des trous, couper, souder, ou emboutir des choses, modeler différentes formes à un niveau infinitésimal?Quelles sont les limites quant à la façon dont une chose doit être petite avant que vous ne puissiez plus la modeler?Combien de fois lorsque vous travaillez sur quelque chose de frustrant car très petit comme la montre-bracelet de votre femme, avez-vous dit à vous-même, “Si seulement je pouvais dresser une fourmi pour faire ça !”. Ce que je voudrais proposer est la possibilité de former une fourmi pour qu’elle forme un acarien qui fasse cela. Quelles sont les possibilités des machines petites mais mobiles? Elles pourraient être utiles ou non, mais elles seraient certainement plaisantes à réaliser.

Pensez à n’importe quelle machine - par exemple, une automobile - et renseignez vous quant aux problèmes de réalisation d’une telle machine infinitésimale. Supposons, en particulier dans la conception d’une automobile, que nous ayons besoin d’une certaine précision des parties; nous avons besoin d’une précision, disons, de 10 microns. Si les choses sont plus imprécises que cela, tolérances cylindriques etc. , ça ne marchera pas très bien. Si je fais quelque chose de trop petit, je dois m’inquiéter de la taille des atomes; je ne peux pas réaliser un cercle de “balles” pour ainsi dire, si le cercle est trop petit. Donc, si je fais une erreur, correspondant à 10 microns, soit une erreur de 10 atomes, il vient que je peux réduire les dimensions d’une automobile 4.000 fois, approximativement, afin qu’elle fasse 1mm.Évidemment, si vous reconcevez la voiture afin qu’elle marche avec une tolérance plus grande, ce qui n’est pas complètement impossible, alors vous pouvez en réaliser une encore plus petite.

Il est intéressant d’examiner quels sont les problèmes de telles petites machines.Premièrement, avec des contraintes sur les pièces proportionnelles, les forces diminuent d’autant que vous réduisez la surface, de sorte que les choses comme le poids et l’inertie sont relativement sans importance. En d’autres termes, la résistance du matériau est proportionnellement beaucoup plus grande. Les contraintes et la déformation du volant dûs à la force centrifuge, par exemple, seront dans les mêmes proportions seulement si la vitesse de rotation est augmentée dans la même proportion que la diminution de taille. D’un autre côté, les métaux que nous utilisons ont une structure en grain, et cela serait très ennuyeux à petite échelle car le matériau n’est pas homogène. Les plastiques, le verre et les choses de nature amorphe sont beaucoup plus homogènes, et donc nous pourrions avoir à réaliser nos machines avec de tels matériaux. Il y a des problèmes relatifs à la partie électrique du système avec les fils en cuivre et les parties magnétiques. Les propriétés magnétiques à très petite échelle ne sont pas les mêmes qu’à grande échelle; il y a le problème des “domaines” qui serait en cause. Un gros aimant constitué de millions de champs ne peut être fait à petite échelle qu’avec seulement un champ. L’équipement électrique ne sera pas simplement réduit; il doit être repensé. Mais je ne vois aucune raison pour laquelle il ne peut pas être reconçu pour fonctionner à nouveau.

Les problèmes de lubrification

La lubrification soulève quelques points intéressants. La viscosité réelle de l’huile devrait être proportionnellement de plus en plus grande lorsque nous descendons vers le petit. (et si nous augmentons la vitesse autant que possible). Si nous n’augmentons pas autant la vitesse, et que nous passons de l’huile au kérosène, ou à quelque autre fluide, le problème est moindre. Mais en fait, nous pourrions ne pas avoir pas à lubrifier du tout!Nous avons beaucoup de force en réserve. Laissons les roulements tourner à sec; ils ne chaufferont pas parce que la chaleur s’échappe très, très rapidement d’un tel petit système. Cette perte rapide de chaleur devrait empêcher l’essence d’exploser, donc un moteur à combustion interne est impossible. D’autres réactions chimiques, libérant de l’énergie à froid, peuvent être utilisées. Un générateur électrique externe serait probablement plus approprié pour de telles petites machines.

Quelle serait l’utilité de ces machines? Qui sait? Bien sûr, une petite automobile ne serait utile qu’aux mites pour conduire dans leur coin, et je suppose que nos motivations chrétiennes ne vont pas aussi loin. Cependant, nous avons noté la possibilité de fabriquer de petits éléments d’ordinateurs dans les usines complètement automatiques, qui contiennent des tours et autres machines-outils à très petite échelle. Le tour miniature n’aurait pas à être exactement comme nos gros tours. Je vous laisse imaginer l’amélioration de la conception à fin de tirer pleinement avantage des propriétés des choses à petite échelle, et de telle manière que l’aspect entièrement automatisé serait plus facile à gérer.

Un de mes amis (Albert R. Hibbs) suggère une possibilité très intéressante pour les machines relativement petites. Il a dit que, bien qu’il s’agissait d’une idée extrême, il serait intéressant en chirurgie d’avaler le chirurgien. Introduisez le chirurgien mécanique dans un vaisseau sanguin, et il ira dans le cœur pour “regarder” autour. (Bien sûr, l’information doit être récupérée.) Il trouve quelle valvule est défectueuse, prend un petit couteau et la tranche. D’autres petites machines pourrait être incorporées de façon permanente dans le corps pour assister un organe fonctionnant inadéquatement.

Maintenant vient la question intéressante : Comment réalise-on un si petit mécanisme?Je vous laisse l’imaginer. Cependant, permettez moi de suggérer une possibilité singulière. Vous savez que dans les centrales nucléaires ils ont des machines et du matériel qu’ils ne peuvent contrôler directement car ils sont devenus radioactifs.Pour dévisser des écrous et mettre des boulons, et ainsi de suite, ils ont un ensemble de mains maîtres et esclaves, de telle sorte qu’en opérant sur un jeu de leviers, vous contrôlez ces “mains”, et pouvez les utiliser de telle manière que vous puissiez gérer les choses correctement.

La plupart de ces machines sont en fait réalisées plutôt facilement, dans la mesure où il y a un câble particulier, comme une ficelle de marionnette, qui va directement des contrôles aux “mains”. Mais, bien sûr, de telles choses ont également été réalisées en utilisant des servomoteurs, de sorte que la connexion entre un élément et l’autre soit électrique plutôt que mécanique. Lorsque vous manipulez les leviers, ceux-ci activent un servomoteur, et cela change les courants électriques dans les câbles, ce qui repositionne un moteur à l’autre bout.

Maintenant, je veux construire à peu près le même dispositif -un système maître-esclave fonctionnant électriquement. Mais je veux que les esclaves soient réalisés soigneusement par des machinistes modernes à grande échelle, de sorte qu’ils soient à l’échelle un quart des “mains” que l’on manœuvre ordinairement.Vous avez donc un système par lequel vous pouvez faire faire des choses à une échelle un quart : les petits servomoteurs avec leurs petites mains dirigent de petits écrous et de petits boulons, ils percent de petits trous, ils sont un quart de fois plus petit. Aha! J’ai donc construit un tour à la taille un quart. Je construis des outils à l’échelle un quart; et je peux ainsi réaliser un autre jeu de mains é l’échelle relative d’un quart! Celui-ci a un seizième de la taille, depuis mon point de vue. Et après avoir fini de faire cela, je connecte directement mon système à grande échelle, peut-être par le biais de transformateurs, aux servomoteurs à l’échelle un seizième. Ainsi, je peux maintenant manipuler les mains à l’échelle un seizième.

Bien, vous avez là le principe. C’est un programme plutôt difficile, mais c’est une possibilité.Vous pourriez dire que l’on peut aller beaucoup plus loin avec une seule étape que de un à quatre.Bien sûr, tout cela doit être conçu très soigneusement et il n’est pas forcément nécessaire de faire cela simplement comme des mains. Si vous réfléchissiez à cela très sérieusement, vous devriez probablement arriver à un bien meilleur système pour faire de telle choses.

Si vous travaillez avec un pantographe, même aujourd’hui, vous pouvez obtenir beaucoup plus qu’un facteur quatre dans une seule étape. Mais vous ne pouvez travailler directement via un pantographe qui réalise un pantographe plus petit, qui alors en réalise un plus petit, à cause du jeu causé par les trous et les irrégularités de construction. Au final, le pantographe oscillera avec une irrégularité relativement plus grande que l’irrégularité avec laquelle vous déplacez vos mains. En descendant vers le petit, j’aurais le pantographe du pantographe du pantographe remuant tant et tant qu’il ne serait pas possible de faire quoi que ce soit de précis avec.

A chaque étape, il est nécessaire d’améliorer la précision de l’appareil. Si, par exemple, ayant fait un tour miniature avec un pantographe, on voit que sa mèche est irrégulière -plus irrégulière que celle à large échelle- on pourrait faire chevaucher la mèche contre des écrous cassables pour lesquels vous pouvez inverser la procédure habituelle, jusqu’à ce que la mèche soit, a son échelle, aussi précise que notre mèche de départ, à notre échelle.

Nous pouvons faire des replats en frottant trois surfaces non planes ensemble -en trois paires- et le replat deviendrait alors plus plat que ceux dont vous êtes parti. Ainsi, il n’est pas impossible d’améliorer la précision à petite échelle à l’aide d’opérations adéquates. Donc, lorsque nous avons construit cela, il est nécessaire d’améliorer la précision de l’équipement en travaillant quelque temps dessus, en réalisant des mèches précises, des “blocs de Johansen”#, et tous les autres matériaux que l’on utilise dans le travail de machines précises de haut de gamme.Nous devons nous arrêter à chaque niveau et fabriquer tout ce qu’il faut pour passer au niveau d’après; un programme très long et très difficile.Peut-être pouvez vous imaginer une meilleure façon pour aller vers le bas plus rapidement.

Pourtant, après cela, vous avez un bébé tour quatre cent fois plus petit qu’habituellement. Mais nous étions en train de penser à la conception d’un ordinateur énorme, que nous allions construire en perçant des trous avec ce tour pour faire de petites rondelles pour l’ordinateur. Combien de rondelles peut on fabriquer avec ce tour?

Une centaine de petites mains

Au lieu de construire mon premier jeu de “mains” esclaves à l’échelle un quart, j’en fais 10. Je construis dix jeux de “mains”, et je les connecte à mes leviers de départ de afin qu’elles fassent exactement la même chose au même moment, en parallèle. Maintenant, lorsque je construis mes nouveaux systèmes d’un quart d’échelle plus petits, je laisse chacun en fabriquer dix copies, de sorte que j’aurais une centaine de mains à la taille un seizième.

Où vais-je mettre le millions de tours que je j’obtiendrai?Mais pourquoi cette question, il n’y a aucun problème : le volume total est beaucoup plus petit que celui du tour à pleine échelle.Par exemple, si je fais un milliard de petits tours, chacun à la taille 1/4000 d’un tour normal, il y reste beaucoup de matière et d’espace disponible, car dans le milliard de petits tours, il y a moins de 2 pour cent de la matière d’un gros tour.

Cela ne coûte rien en matériaux, voyez-vous. Donc je veux construire un milliard de petites usines, modèles les unes des autres, qui sont en train de produire simultanément, perçant des trous, poinçonnant des parties, et ainsi de suite.

En allant vers le petit, il y a de nombreux problèmes intéressants qui surviennent. Tout n’est pas simplement réduit de façon proportionnelle. Un problème est que les matériaux vont coller ensemble, par l’attraction moléculaire (de Van der Waals). Ainsi, après que vous ayez réalisé une pièce et que vous dévissez le boulon d’un écrou, il ne tombera pas parce que la gravité est négligeable; il sera même difficile de l’écarter de l’écrou. Ce sera comme dans ces vieux films, avec un homme avec les mains pleines de mélasse, essayant se débarrasser d’un verre d’eau. Il y aura plusieurs problèmes de ce genre que nous devons être prêts à résoudre.

Réarranger les atomes

Mais je n’ai pas peur d’attaquer la dernière question, qui est de savoir si en fin de compte, dans un futur lointain, on pourra réarranger les atomes comme on le veut, chaque atome, jusqu’au dernier!Que se passerait-il si l’on pouvait ordonner tous les atomes, un par un, comme nous le désirons (dans les limites du raisonnable, bien sûr; vous ne pouvez pas les mettre de sorte qu’ils soient chimiquement instables, par exemple).

Jusqu’à maintenant, nous nous sommes contentés de creuser dans le sol pour trouver des minéraux.Nous les chauffons et nous faisons des choses à large échelle avec, et nous espérons obtenir une substance pure avec en fait plein d’impuretés, et ainsi de suite. Mais nous devons toujours accepter quelques arrangements atomiques que la nature nous donne.Nous n’avons rien, disons, avec une disposition en “damier”, avec les atomes impurs disposés exactement à 1000 angströms d’intervalle, ou en quelque autre motif particulier.

Que pourrions-nous faire avec des structures en couches ayant juste les bonnes couches?Quelles seraient les propriétés des matériaux si nous pouvions arranger les atomes comme nous le voulons?IlIls seraient très intéressants à étudier théoriquement. Je ne vois pas exactement ce qui se passerait, mais je peux difficilement douter du fait que lorsque nous aurons quelque maitrise sur les arrangements des choses à petite échelle, nous aurons un éventail extrêmement large de propriétés possibles que les substances peuvent avoir, et des différentes choses que nous pouvons faire.

Prenons, par exemple, un morceau de matériau dans lequel nous faisons des petites bobines et des petits condensateurs (ou l’équivalent de leur état solide), de 1000 ou 10000 angströms dans un circuit, l’un à côté de l’autre, sur une large zone, avec des petites antennes dépassant à l’autre bout, toute une série de circuit. Est-il possible, par exemple, d’émettre de la lumière avec une série entière d’antennes, comme nous émettons des ondes radios avec une série d’antennes organisée pour transmettre le programme radio en Europe? L’équivalent serait d’émettre un rayon de lumière dans une direction définie avec une très forte intensité. (Peut-être qu’un tel rayon n’est pas très utile techniquement ou économiquement.)

J’ai pensé à quelques problèmes de construction de circuits électriques à petite échelle, et le problème de la résistance est important. Si vous construisez un circuit équivalent à petite échelle, sa fréquence propre augmente, puisque la longueur d’onde diminue avec l’échelle; mais l’épaisseur de peau ne décroît que comme la racine carrée du rapport d’échelle, et ainsi les problèmes de résistance sont de difficulté croissante.Peut-être pouvons-nous lutter contre la résistance par l’utilisation de la supraconductivité si la fréquence n’est pas trop haute, ou par d’autres astuces.

Les atomes dans un monde miniature

Lorsque nous allons vers le monde miniature des circuits de, disons, sept atomes- nous avons beaucoup de nouvelles choses qui se produisent et qui représentent de nouvelles opportunités pour la conception. Les atomes à petite échelle ne se comportent pas comme à grande échelle, afin de satisfaire les lois de la mécanique quantique. Ainsi, en descendant vers le bas, et en bidouillant les atomes, nous travaillons avec des lois différentes, et nous pouvons nous à attendre à faire des choses différentes.Nous pouvons les fabriquer de différentes manières. Nous pouvons utiliser non seulement des circuits, mais aussi des systèmes impliquant les niveaux d’énergie quantifiés, ou les interactions des spins quantifiés, etc.

Une autre chose que nous remarquerons est que, si nous descendons suffisamment vers le bas, tous nos systèmes peuvent être produits massivement, de sorte qu’ils soient les copies exactes les uns des autres.Nous ne pouvons pas construire deux grandes machines telles que leurs dimensions soient exactement les mêmes. Mais si votre machine n’est haute que de 100 atomes, vous n’avez à l’avoir précise qu’au demi pourcent pour être sûr que l’autre machine est exactement de la même taille, à savoir 100 atomes de haut!

Au niveau atomique, nous avons de nouvelles sortes de forces et de nouvelles sortes de possibilités, de nouvelles sortes d’effets. Le problème de la fabrication et de la reproduction des matériaux sera assez différent. Je me suis, comme je l’ai dit, inspiré par les les phénomènes biologiques dans lesquels les forces chimiques sont utilisées de façon répétitive pour produire toutes sortes d’effets bizarres (dont l’un est l’auteur).

Les principes de la physique, autant que je suis puisse le voir, ne vont pas contre la possibilité de manier les choses atome par atome. Ce n’est pas une tentative de violer quelque loi que ce soit; c’est quelque chose qui peut en principe être fait, mais qui en pratique n’a pas été fait car nous sommes trop grands.

En fin de compte, nous pouvons faire de la synthèse chimique. Un chimiste nous vient, et dit : “Regardez, je veux une molécule qui ait les atomes arrangés ainsi; faites moi cette molécule”. Le chimiste fait une mystérieuse chose quand il veut faire une molécule. Il voit que ça a un anneau, donc il mélange ceci et cela, et il le secoue, et il bidouille. Et, à la fin d’un processus difficile, il réussi souvent à synthétiser ce qu’il veut. Le temps que je j’obtienne mon système en train de fonctionner, de sorte que celui-ci puisse être fait par la physique, il aura trouvé comment synthétiser absolument tout, si bien que cela sera vraiment inutile.

Mais ce qui intéressant, c’est que ce sera, en principe, possible (je pense) pour un physicien de synthétiser toute substance chimique que le chimiste noterait. Donnez les ordres et le physicien le synthétise. Comment? Placez les atomes là où le chimiste le dit, et ainsi vous réalisez la substance. Les problèmes de la chimie et de la biologie peuvent être grandement aidés si notre capacité à voir ce que nous faisons, et de faire des choses au niveau atomique, était enfin développée -un développement que je pense inévitable.

Maintenant, vous devez vous dire, “Qui devrait faire cela, et pourquoi le ferait-on?“Eh bien, j’ai montré quelques applications économiques, mais je sais que la raison pour laquelle vous le feriez serait juste le plaisir. Mais amusez-nous! Organisons une compétition entre des laboratoires. Laissons un laboratoire faire un moteur minuscule, qui l’envoie à un autre laboratoire qui le renvoie avec quelque chose qui tienne à l’intérieur de l’axe du premier moteur.

Compétition de lycées

Juste pour le plaisir, et afin d’intéresser les enfants à ce domaine, je suggérerais que quelqu’un qui a des contacts avec les lycées envisage de faire une sorte de compétition de lycées. Après tout, nous n’avons même pas débuté dans ce domaine, et même les enfants peuvent écrire plus petit que ce qui a pu être écrit auparavant. Les lycées pourraient participer à des défis. Le lycée de Los Angeles pourrait envoyer une épingle au lycée de Venise avec marqué “Que pensez-vous de ça?“Ils recevraient l’épingle en retour, et dans le point du “i”, il serait écrit “Pas si dur.”

Peut-être que ça ne vous excite pas de le faire, et que seuls les aspects économiques vous intéressent. A ce propos, je veux faire quelque chose, mais je ne peux le faire en ce moment, car je n’ai pas préparé le terrain. Mon intention est d’offrir un prix de 1.000$ au premier capable de prendre les informations d’une page d’un livre et de les mettre sur une surface 1/25.000 fois plus petite avec une échelle linéaire de telle sorte que cela puisse être lu par un microscope électronique.

Et je voudrais offrir un autre prix, si j’arrive à trouver comment formuler cela de sorte que je ne m’engage pas dans un tas de débats quant aux définitions, de 1.000$ au premier qui réalisera un moteur électrique opérationnel -un moteur électrique rotatif qui peut être contrôlé depuis l’extérieur et qui, sans compter les fils de connexion, aurait une taille de seulement 0.4 mm au cube.

Je ne m’attends pas à ce que de tels prix aient à attendre longtemps avant d’être réclamés.

(le texte complet a été inséré dans cet article de blog le 28.12.2012, réédité pour l’occasion)

la Résurrection du Jeu de la Vie

Sun, 29 Mar 2009 00:00:00 +0000

Le imaginé par en 1970 est un automate cellulaire célébrissime pour au moins deux raisons:

Un "canon à planeurs"

A partir de règles toutes simples, le jeu de la vie génère une “vie” artificielle étrangement complexe et imprévisible, posant toutes sortes de questions intéressantes
Le Jeu de la Vie étant très facile à programmer, des générations d’étudiants ont codé des programmes “Life” dans tous les langages imaginables.

Après une flambée d’intérêt dans les années 1980 où on a même vu apparaitre des processeurs spécialisés dans l’exécution d’automates cellulaires, le soufflé est retombé dans la décennie suivante car la simulation de grands automates demandait beaucoup de puissance de calcul et de mémoire.

Mais comme nous l’apprend Jean-Paul Delahaye dans le dernier “Pour la Science” , il y a du nouveau. En 2005 est apparu “ ”, un logiciel Open Source utilisant “ ", un algorithme accélérant le calcul des automates cellulaires d’une manière phénoménale. Hashlife a été imaginé en 1984 déjà par , un des premiers “hacker” du Xerox Park de Palo Alto. Mais pour une étrange raison, ce n’est qu’en 2004 Tomas Rokicki l’a implanté en C et décrit dans un article intitulé “un algorithme pour compresser le temps et l’espace” .

Hashlife combine en effet deux techniques de programmation :

une partition de l’espace qui permet d’une part d’ignorer les grandes zones de cellules vides et d’autre part de reconnaitre les copies identiques de groupes de cellules
la “ ”, qui consiste à mémoriser des résultats précédemment calculés afin de les restituer immédiatement lorsque la même situation se représente.

Ainsi, hashlife ne calcule qu’une seule fois l’évolution d’un groupe de cellules qui serait présent à des milliers d’exemplaires dispersés sur un immense jeu de la vie, et n’a besoin de mémoire que pour stocker chacune des étapes d’un cycle au lieu de millions de cellules.

Hashlife parvient ainsi à calculer des milliers de générations par seconde de “Jeux de la Vie” comportant 10^{50 cellules sur un PC ordinaire doté de 10}9 octets de mémoire !

Voici par exemple “ ” en action sur le “breeder”, la première structure générant un nombre de cellules augmentant comme le carré du nombre de générations :

On voit comment un groupe de “fusées” se déplace vers la droite en générant des “canons à planeurs”. En quelques secondes, 400'000 générations ont été calculées (même pas à vitesse maximale) , générant 160 millions de cellules actives.

Cette vitesse permet de visualiser confortablement d’autres structures extraordinaires découvertes récemment, comme les “métacellules”:

On voit ici un tableau de 15x15 métacellules, dont chacune se comporte comme une cellule du Jeu de la Vie ! En 30'000 générations environ, chaque métacellule compte le nombre de ses voisins “vivants” et devient elle-même vivante en se remplissant de planeurs en suivant la règle de Conway !

Le “Jeu de la Vie” est donc capable d’exécuter un programme jouant au “Jeu de la Vie”. Mais quels autres programmes peut-il exécuter ? On connait depuis 1984 des structures calculant les nombres premiers, et d’autres “écrivant” en clair comme celle-ci :

Mais en 2000, Paul Rendell a réussi a créer une “ ” en Jeu de la Vie , ce qui signifie que ce petit jeu aux règles extraordinairement simple est capable, avec une astucieuse programmation, de réaliser toutes les opérations d’un ordinateur usuel.

Outre le jeu de la Vie, Golly peut exécuter d’autres automates cellulaires en utilisant le fantastique algorithme Hashlife, notamment , un système simulant les circuits électroniques digitaux.

“Hashlife” est bien un algorithme qui compresse l’espace et le temps, comme le dit Rokicki, et il est même d’un usage assez général. Je ne serais pas étonné s’il trouvait prochainement des applications “sérieuses”, en simulation notamment.

J’adore les rubriques de Jean-Paul Delahaye dans “Pour la Science”. Surtout celle du mois prochain…

Références:

Jean-Paul Delahaye “ ”, Pour la Science, avril 2009, p. 86-91
Tomas G. Rokicki “ ”, Dr. Dobbs Journal, avril 2006
William Gosper “Exploiting Regularities in Large Cellular Spaces”, 1984, Physica D. Nonlinear Phenomena, Vol 10, pp. 75-80
Paul Rendell " ”, 2000
Paul Callahan “Wonders of Math : ” sur Math.com
, un blog dédié aux nouvelles découvertes sur le Jeu de la Vie
Un “ ” en Java, utilisant l’algorithme Hashlife implanté dans ce langage, en open source.
David Bau “ ”, une implantation (simplifiée) de Hashlife en Python

Superordinateurs de table

Fri, 13 Mar 2009 00:00:00 +0000

Depuis de nombreuses années, les sont formés de très nombreux processeurs calculant en parallèle. Le record actuel est tenu par le qui comprend 6'948 Opteron bicœurs et 12'960 processeurs d’IBM, contenant chacun (" Unit", SPU).

Combien ?

“Roadrunner” peut effectuer 1 , soit un million de milliards d’opérations arithmétiques par seconde et vaut des millions d’euros. Vous pouvez aujourd’hui assez facilement disposer dans votre PC du millième de cette puissance pour quelques centaines d’euros seulement.

En effet, les “GPU” récents sont formés de centaines d’ assez semblables aux 8 SPU du Cell. Initialement dédiés à la génération d’images réalistes en 3D temps réel et limités au calcul en virgule fixe, les GPU sont devenus capables d’exécuter certains programmes en virgule flottante beaucoup plus rapidement que sur les processeurs classiques : c’est le calcul générique sur GPU ( ).

La offrent désormais une puissance de l’ordre du teraflops, soit 200x plus que . D’ailleurs nVidia commercialise désormais ses derniers processeurs sur des dédiées au calcul, et dépourvues de sortie video, un comble pour des processeurs graphiques !

ça ressemple à de la pub, mais ça n’en est pas (hélas)

Ainsi, la science peut bénéficier de processeurs puissants à des prix très bas grâce aux et de PC familiaux.

Simulation d’écoulement d’un fluide par la méthode “Lattice Bolzmann” exécutée simultanément sur le CPU et sur le GPU…

Comment ?

La limite beaucoup le gain de performances obtenu en répartissant un programme existant sur plusieurs processeurs ( ). Dans un GPU, les centaines de processeurs travaillant en parallèle ne sont réellement efficaces que s’lorsqu’ils effectuent tous les mêmes opérations sur des données différentes ( ).

Pour exploiter la puissance des GPU il faut donc re-coder bon nombre d’algorithmes et de méthodes numériques en se basant sur une bonne connaissance de l’architecture des GPU, et en utilisant des langages de programmation spécifiques. nVidia a pris une longueur d’avance dès 2007 en proposant , une extension du langage C et son compilateur pour les GPU de marque nVidia exclusivement. ATI/AMD a suivi fin 2008 en lançant , une variante du langage , lui même dérivé du C par l’Université de Stanford. Mais Stream ne fonctionne que sur les GPU d’AMD/ATI, évidemment.

Là dessus, des entreprises comme ont développé des plate-formes de développement permettant de compiler le même programme C++ pour CPU classiques, GPU nVidia ou ATI/AMD et aussi pour les de “Roadrunner” et des consoles PlayStation 3 de Sony.

Apple a annoncé une nouvelle étape avec , une autre variante de C qui devrait être supportée par son prochain système d’exploitation OS X 10.6 “Snow Leopard” cette année. Microsoft suivra probablement avec quelque chose d’équivalent intégré au Direct X 11 qui accompagnera Windows Seven (si tout va bien…)

Resté bien silencieux sur le sujet des GPU, intel prépare sa revanche en 2010 avec son processeur , qui contiendra quelques dizaines de coeurs de ses processeurs classiques x86, et donc sera en principe capable d’exécuter simultanément un grand nombre de programmes habituels, tout en offrant une puissance suffisante pour générer des images en 3D également.

Pour quoi ?

" le PowerXcell 8i s’adresse avant tout aux scientifiques et au marché des consoles". Cette merveilleuse s’applique également aux GPU : le marché porteur est celui des jeux video, toujours plus gourmands en qualité d’image et d’animation de scènes 3D complexes, mais aussi en capacité de simulation de phénomènes physiques. On veut de plus en plus de réalisme des chutes, collisions, explosions.

un dinosaure s’effondre… : illustration du chapitre de GPU Gems 3 consacré à la simulation physique. Cliquez sur l’image pour accéder au texte

Jusqu’ici les jeux intégraient la mécanique des corps rigides, mais désormais les cheveux et les habits de nos héros virtuels suivent leurs mouvements, car il est possible de simuler la déformation élastique et la rupture. La prochaine étape est de , on y est presque.

Or les méthodes nécessaires à ces applications ludiques sont très semblables à celles permettant de prévoir la météo, de simuler des galaxies ou de déterminer les propriétés de molécules chimiques, entre autres.

Parmi les 200 applications listées sur la , bon nombre sont des et d’algèbre linéaire pouvant être appliquées dans de nombreux domaines, comme par exemple qui nécessite d’effectuer chaque milliseconde un produit scalaire d’une matrice 3000 x 6000 par le vecteur des 6000 mesures pour obtenir les 3000 commandes ( )

Les logiciels scientifiques usuels commencent à tirer parti de ces librairies de façon quasiment transparente:

pour Matlab, il existe déjà un et le l’environnement
LabView dispose d’un suport “multicore” intégrant Cuda, utilisé dans le projet
(lien mis à jour le 13.3.12)
Python, mon langage préféré du moment, peut aussi accéder à la puissance de Cuda grâce à (faut que j’essaie ça asap!)

Et bien d’autres applications spécifiques comme:

, une librairie de utilisée dans les de qui accélère les calculs jusqu’à 700x par rapport à un processeur normal.
Différents solveurs en .
Des logiciels de , appliqués à l’imagerie médicale ou au marché de la sécurité. Même l’encodage de films peut désormais profiter de la puissance des GPU : , écrit spécialement pour GPU va extrêmement vite mais le résultat est d’une qualité inférieure à celui de qui va de 2 à 5 fois plus vite lorsque Cuda est activé.

Quel que soit votre utilisation de l’ordinateur, souvenez-vous de faire bien attention au GPU qui équipera votre prochaine machine : ce sera lui qui fera de votre machine un superordinateur de table.

Liens:

le site de référence de mon gourou sur ce sujet, JegX
Damien Triolet, “ ”, sur hardware.fr 2 Mars 2007

Casse-tête binaire

Tue, 03 Feb 2009 00:00:00 +0000

Je viens d’inventer le problème suivant, qui est en fait une variation informatique d’un membre du C@fé des Sciences.

Un registre de microprocesseur contient un mot de 32 bits quelconque, mais dont exactement 8 bits sont à 1, les autres à 0 (par exemple 01001000000000111000010000101000)

Comment faire pour modifier les premiers 8 bits du mots de façon à ce qu’ils comportent autant de bits à ‘1’ qu’il n’y en a au total dans les 24 bits suivant (soit 6 dans l’exemple ci-dessus), et ceci en une seule instruction du processeur ?

Si vous n’êtes pas familier avec l’ , disons que vous disposez des mêmes opérations qu’une calculatrice, mais en binaire : addition, soustraction, ansi que des . Une instruction, c’est une de ces opérations suivie d’une .

Les dimensions de La Machine

Sat, 29 Nov 2008 00:00:00 +0000

Vu cette passionnante , disponible aussi sur YouTube :

Le début reprend des chiffres et notions de “ ”, un article sur le blog de Kelly qui commence par ce postulat :

La prochaine étape dans l’évolution technologique humaine est un unique ordinateur/réseau/pensant de dimension planétaire. Cet ordinateur planétaire sera la plus grande, complexe et chère machine jamais construite. Ce sera aussi la plateforme principale du monde des affaires et de la culture. Le web est l’OS (système d’exploitation) initial de cette nouvelle machine globale, et tous nos gadgets personnels seront des fenêtres (windows…) donnant sur son coeur. Les gadgets futurs seront des portes sur la même machine unique. Concevoir des produits et des services pour cette nouvelle machine demande un état d’esprit unique.

Puis il donne quelques dimensions de La Machine : aujourd’hui, elle contient environ

1.2 milliards d’ordinateurs personnels ,
2.7 milliards de téléphones portables ,
1.3 milliards de téléphones fixes ,
27 millions de serveurs ,
et 80 millions de PDA sans fil.

Au total, les microprocesseurs fournissant la puissance de calcul totalisent environ 1018 transistors ( un milliard de milliards de transistors). Kevin Jelly se risque ensuite, un peu trop à mon avis, à comparer ce nombre aux 100 milliards de neurones d’un cerveau humain , où les quelque 55'000 milliards de liens du web (900 milliards de pages web contenant en moyenne 62 liens ) seraient analogues à des synapses.

Kelly évalue ensuite la bande passante de La Machine en comptant:

196 milliards d’emails (y compris les spams….) envoyés chaque jour . Soit 2.2 millions par seconde, ou une fréquence d’envoi de 2 megahertz.
1012 sont envoyés par an . Ca correspond à 31'000 per second, ou 31 kilohertz.
14 milliards de messages instantanés sont échangés par jour , soit 162 kilohertz.
Le nombre de requêtes de recherche correspond à 14 kilohertz .
Les liens sont cliqués à la fréquence de 0.52 megahertz .

En fin de compte, tout ceci donne environ 7 terabytes par seconde de bande passante internationale

Il y avait environ 5 exabytes (1018, ou 260) d’information stockée dans le monde en 2003 , mais la plupart était gardée hors-ligne, sur papier, film, CD et DVD. Depuis, le stockage en ligne a proliféré. Aujourd’hui, la mémoire totale de la machine contient environ 246 exabytes d’information (246 milliards de gigaoctets!). Cette capacité devrait atteindre 600 exabytes en 2010 .

A cela on peut ajouter les flux audio et video qui ne sont pas stockés de manière permanente. Ils sont estimés à 255 exabytes en 2007 , soit plus que le contenu stocké, et il est prévu que cet écart va s’accentuer de 20% par an.

Pour son fonctionnement, La Machine consomme approximativement 800 milliards de kilowatt.heures par an, soit 5% de la production globale d’électricité .

Kevin Kelly insiste sur le fait qu’ “un problème que nous avons en parlant de La Machine est que ses dimensions excèdent de beaucoup celles auxquelles nous sommes habitués, donc nous n’arrivons pas à nous rendre compte de sa taille”. Par exemple, une bibliothèque très complète contient environ 10 terabytes d’information, un volume très faible pour La Machine. Ca tiendra sur votre iPod dans 10 ans et ca se transmet en une seconde à l’autre bout du monde. Comment mesurerons nous le traffic dans 15 ans ?

Considérant que la puissance totale de La Machine actuelle est proche de celle d’UN cerveau humain ( et d’autres comparaisons , Kelly propose d’utiliser le “HB” (human brain) comme unité de mesure pour les prochaines années. Si la croissance rapide imposée (ou mesurée…) par la Loi de Moore se poursuit encore quelques décennies ( ), entre 2020 et 2040, La Machine atteindra la puissance de calcul de l’Humanité.

Références:

" " sur clickZ
" ", Portio Research
" ", CIA
Jonathan G. Koomey, “ ”, AMD, February 15, 2007
" ",
, “ ”, December 17, 2006
Andrei Z. Broder, Marc Najork, Janet L. Wiener, “ ”, WWW2003, May 20–24, 2003, Budapest, Hungary.
" "
" "
“ ”, InternetNews.com, July 19, 2005
Kevin Kelly “ ”
" ", Primetrica, 2007
et al. “ ”, Université de Berkeley
" - An Updated Forecast of Worldwide Information Growth Through 2011", IDC
Kevin Kelly “ ”, 17 octobre 2007

Autres articles sur ce thème

(basé sur la référence \[15\]ci dessus)

Google trie 1 PetaByte de données !

Sat, 22 Nov 2008 00:00:00 +0000

Pour trier un jeu de 72 cartes, je prends une carte de mon jeu mélangé, et je la pose sur la table. J’en prends une seconde, et je la place sur la table avant ou après la première selon l’ordre que je souhaite. La troisième carte peut aller avant ou après les deux premières, ou être insérée entre les précédentes, et ainsi de suite jusqu’à ce que toutes les cartes soient triées dans l’ordre sur la table, ce qui me prend un peu plus d’une minute.

Un TeraByte pour commencer

Dans le même temps de 68 secondes, , améliorant d’un facteur 3 le obtenu plus tôt cette année. Suivant les règles du “ ” proposé par en 1998, les cartes contenaient 100 bytes, ce qui représente au total un TeraByte, l’équivalent, grosso-modo, d’un annuaire qui inclurait tous les habitants de la planète.

Un TeraByte, c’est la capacité d’un gros disque dur actuel, mais on ne peut y lire ou écrire “que” 300 MegaByte par seconde : il faudrait au mieux une heure pour lire les donner à trier dans une mémoire de 1000 GigaByte (qui n’existe pas…) et une autre heure pour réécrire la liste triée, sans compter le temps du tri proprement dit . Google a donc utilisé 1000 ordinateurs, et au moins autant de disques durs formant une partie du “Google File System” , le gigantesque système de stockage de Google.

Trions en parallèle

Mais comment trier les mêmes données à plusieurs? Reprenons le jeu de 72 cartes et divisions le en 2 tas de 36 cartes mélangées, un pour toi, un pour moi. Nous pourrions placer nos cartes sur une seule ligne sur la table et espérer le faire 2 fois plus vite, mais problème peut survenir si nous voulons simultanément insérer nos cartes au même endroit : comment les placer dans le bon ordre dans ce cas ? Soit on doit alors comparer nos deux cartes et éventuellement les intervertir avant de les insérer, soit on doit convenir d’insérer les cartes à tour de rôle, ce qui ralentit considérablement l’opération. Avec 1000 ordinateurs, on ne va pas s’en sortir beaucoup mieux car c’est visiblement l’accès à la table (=mémoire), unique, qui forme un goulot d’étranglement : pas efficace.

Une autre approche serait que je trie mes 36 cartes et toi tes 36 cartes indépendamment, puis que nous réunissions nos deux piles triées, ce qui est très rapide : je pose mes cartes une à une tant qu’elles viennent avant celle que je vois sur le haut de ta pile, et quand je ne peux plus en poser, tu poses les tiennes tant qu’elles viennent avant celle que je ne pouvais plus poser etc.

On peut faire même mieux en échangeant astucieusement nos cartes plutôt que de reformer une seule pile. Si je trie les carreaux et coeur, et toi les trèfles et pique, plus besoin de reformer une pile unique à la fin : commençons par nous échanger les cartes qui n’ont pas la bonne couleur, puis trions nos tas chacun sur notre table, et voilà !

Animation de l’algorithme de tri "quicksort".

QuickSort

Voilà qui ressemble furieusement à l’ illustré ci-contre : on commence par échanger les données plus grande qu’un pivot (seuil bleu) de la première moitié contre celles plus petites que le seuil de la 2ème moitié. Puis on peut répéter l’opération entre le premier quart et le second d’une part, et le 3ème et le 4ème d’autre part, et ainsi de suite. Si on a un nombre de données qui est une puissance de 2, on peut tout trier par simples échanges, et si on dispose aussi d’un nombre de processeurs qui soit une puissance de deux, on peut répartir le travail très efficacement. A quelques variations près, c’est cet algorithme qui est utilisé pour trier de très grosses quantités de données.

MapReduce

S’il y a un sujet sur lesquel j’aurais du me documenter avant d’ , c’est . Le principe est tout simple :

le programmeur écrit :
- une fonction “map” qui sera appliquée à chaque donnée et produira un résultat intermédiaire
- une fonction “reduce” qui regroupera les résultats intermédiaires de “map” pour produire le résultat final
on donne ces deux fonctions à MapReduce, qui se charge de les exécuter de façon efficace sur beaucoup de donnée sur beaucoup de disques durs et beaucoup d’ordinateurs.

Le MapReduce de Google contient en fait un algorithme de partitionnement qui répartir les résultats des “map” sur les “reduce”, et un algorithme de tri incorporé à la partie “Reduce”, car les fonctions “reduce” peuvent presque toujours être rendues plus efficaces si leurs données sont triées. De ce fait, il semblerait que le record du tri ait été obtenu avec une fonction “map” triviale, et une “reduce” qui ne l’est pas moins!

MapReduce est probablement la plus géniale idée des ingénieurs de Google, et une contribution majeure à l’informatique du futur. Le code n’est pas public, mais . D’autre part la fondation Apache a un , qui se base sur , leur équivalent du Google File System. C’est en utilisant ce système + 1000 lignes de Java seulement que Yahoo! a pu trier le TeraByte en 209 secondes . 3x moins bien que Google, c’est quand même pas mal du tout…

Pour en savoir plus sur MapReduce vous pouvez lire la référence , et/ou :

regarder cette vidéo
consulter ces , plus techniques, avec exemple de code et performances

Et un , un !

Une fois qu’on a un stockage distribué (GFS), un système de traitement parallèle massif (MapReduce) et quelques milliers d’ordinateurs, pourquoi se limiter à trier un TeraByte ? Comme ils le disent dans , Google était “curieux de voir ce qui arrive si on essaie avec un PetaByte”. 1000x plus quoi. Juste pour voir…

Ca a pris 6 heures et 2 minutes, soit 21720 secondes sur 4000 ordinateurs. Ramené au même nombre d’ordinateurs, ça a donc pris “seulement” 1277x plus de temps pour trier 1000x plus de données. C’est assez efficace si l’on considère que la complexité d’un algorithme comme QuickSort est O(N.log N) : sur un seul ordinateur, trier 1000x plus de données prend théoriquement 1000x10 = 10'000x plus de temps. Mais en répartissant le tri sur 4 fois plus d’ordinateurs, on divise ce temps par 4 et en plus on divise par 4 la taille des données : on devrait se retrouver avec 250x8/4 = environ 500x plus de temps. Un facteur 1277 c’peut sembler nettement plus, mais c’est normal en raison des communications supplémentaires entre les ordinateurs.

Le tri du PetaByte pose une autre problème intéressant : les données étaient réparties sur 48'000 disques durs et statistiquement, en 6 heures de calcul, au moins un des disques tombe en panne ! Il faut donc que les données triées soient redondantes pour que l’on puisse remplacer le disque fautif sans interrompre l’exécution du tri, ce qui illustre une autre fonctionnalité remarquable du Google File System …

Et après ?

Peu de groupes au monde disposent d’assez de ressources pour tenter de faire mieux que Google. Mais heureusement, les sont ouverts à d’autres catégories:

la catégorie “penny” consiste à trier le plus de nombres possibles pour un “cout” d’un penny, environ 1.3 centimes d’Euro. Le record actuel a été obtenu sur un PC doté d’un AMD 64 sous Linux, mais surtout de 4 disques dur SATA, qui a trié 1'812'000 enregistrements de 100 bytes en 2.408 secondes
la catégorie “Minute” limite le temps de calcul à 60 secondes. Une machine parallèle du MIT a trié 2.140 Milliards d’enregistrements de 100 bytes toujours en 2007.
la catégorie “ ” me semble plus intéressante au niveau du matériel que du logiciel : il s’agit de trier un maximum de nombres par d’énergie consommée par l’ordinateur. Le record appartient à un ordinateur portable utilisant un processeur intel Mobile Core 2 Duo doté de 13 (!) disques durs, et qui trie environ 11'300 enregistrements par Joule . Si les machines de Google avaient la même efficacité énergiétique, le tri du PetyBytes aurait consommé 0.885 GigaJoule, soit 246KWh. Répartis sur 6 jours, ça donne une puissance de 1.7 KW seulement. . Mais avec 4000 gros PC et 48'000 disques durs, Google est probablemet autour de 20x plus.

Et les spaghetti dans tout ça ?

Je ne peux me résoudre à terminer un article sur le tri sans parler du qui m’avait émerveillé il y a près de 25 ans déjà .

Comme on l’a vu plus haut, les meilleurs algorithmes de tri existant ont une complexité O(N.Log N) : le temps de calcul augmente plus vite que le nombre des données, et malgré quelques progrès dus à la parallélisation, il n’existe pas de tri informatique général* en O(N).

Pourtant, des spaghettis pourraient réussir là où les patinent :

on coupe un spaghetti à une longueur représentant le premier enregistrement à trier ramené à un nombre. On coupe un autre spaghetti à la longueur du second nombre, et ainsi de suite pour tous les nombres, et en un temps O(N) on obtient N spaghettis.
on pose verticalement la botte de spaghettis sur une table plane de façon à tasser tous les spaghettis contre la table. Ceci prend un temps constant, très court et indépendant de N et ne compte donc pas dans la complexité globale
En posant une planche enduite de colle sur la botte, on extrait le spaghetti le plus long, on le mesure, on retransforme le nombre en une donnée qu’on écrit au bas de la liste triée et on recommence N fois, pour chaque spaghetti.

Voilà, les spaghettis permettent de trier nos enregistrements en un temps proportionnel à N ! Trier 1000x plus de spaghettis prendra exactement 1000x plus de temps. En fait, si on disposait d’une machine capable de couper puis de mesurer 150 millions de spaghetti à la seconde, elle aurait égalé la machine de Google sur le TeraByte, et l’aurait battu sur le PetaByte, en 18.8 heures seulement :-)

Plus sérieusement, si on a besoin de trier des objets physiques (des grains de sable, des protéines, des ADN ?), il pourrait être intéressant de ne pas oublier la leçon des spaghetti : certains dispositifs physiques peuvent être plus rapides que les plus puissants ordinateurs

Références

Sanjay Ghemawat, Howard Gobioff, and Shun-Tak Leung “ ”, 19th ACM Symposium on Operating Systems Principles, Lake George, NY, October, 2003.
Jeffrey Dean and Sanjay Ghemawat, “ ” OSDI'04: Sixth Symposium on Operating System Design and Implementation, San Francisco, CA, December, 2004.
Jim Wyllie, “ ”, IBM, February 4, 1999
Owen O’Malley, “ ”, Yahoo!, May 2008
: records de tri de données depuis 1987
“ “ Datamation, V 31.7, April 1985, pp 112-118.
Eduardo Pinheiro, Wolf-Dietrich Weber and Luiz André Barroso, “ ”, Google Inc. Proceedings of the 5th USENIX Conference on File and Storage Technologies (FAST’07), February 2007.
Suzanne Rivoire et al. “ ",SIGMOD’07, June 11–14, 2007, Beijing, China
Dewdney, A. K.“On the spaghetti computer and other analog gadgets for problem solving”, Scientific American, (June 1984), 250 (6): 19-26
Niall Murphy et al. “ ”, ,2008, Vol 4 nr 1, pages 3-12

Note* : il existe des algorithmes de tri de complexité linéaire sur des données satisfaisant certaines hypothèses, comme Hervé me l’a fait remarquer dans un commentaire

Le Problème à N corps

Sun, 16 Nov 2008 00:00:00 +0000

Le “problème à N corps” consiste à déterminer le mouvement de N masses sous l’effet des forces d’attraction gravitationnelles entre elles.

Pour N=2, Newton savait déjà que les décrivent des ellipses autour de leur centre de gravité commun.

Pour N=3, : une toute petite différence dans les positions et vitesses initiales des corps pouvait causer de très importantes différences dans la trajectoire des corps. Cependant, malgré ce que beaucoup croient, il existe une solution analytique au problème des trois corps découverte en 1909 par . Elle n’est cependant pas utilisable en pratique pour des calculs.

Pour plus de 3 corps, il n’existe pas de solution analytique. Ceci signifie entre autres qu’il n’est pas possible de démontrer la stabilité d’un système avec quelques corps, comme le Système Solaire par exemple. Des mathématiciens comme ou s’y sont cassés les dents : rien ne prouve que les planètes suivront toujours leurs orbites actuelles dans quelques centaines de millions d’années. Encore moins qu’un astéroïde viennent percuter notre belle planète beaucoup plus tôt.

Simulation du Système Solaire sur Univers Sandbox, N~20

Il est aujourd’hui facile de simuler quelques millions d’années d’évolution du Système Solaire sur un PC, par exemple avec , le chouette programme dont j’ai . Comme on connait avec une très grande précision la position, la vitesse et la masse des planètes et de leurs principaux satellites, on estime que l’on peut calculer leur position dans 5 millions d’années à 150m près. Pour arriver à cette précision, mais aussi tout simplement pour réaliser une simulation réaliste, il faut tout particulièrement veiller à la utilisée, pour garantir la conservation de l’énergie totale du système. Selon , la méthode de donne les meilleurs résultats.

D’autre part, pour chacun des N corps, il faut calculer les N-1 forces exercées par les autres corps. Au total, il faudra calculer

\[N.(N-1)\]

/2 forces (le /2 vient du fait qu’il suffit de ne calculer qu’une fois la force entre deux corps). On dit que la complexité est O(N²) : il faut effectuer un nombre d’opérations proportionnel au carré de N. Pour quelques dizaines de corps, ça ne pose aucun problème, mais si l’on veut simuler des galaxies ou même la collision de galaxies avec N=1'000'000, on se retrouve avec mille milliards de forces à évaluer, ce qui nécessite beaucoup de temps de calcul.

Simulation de la future collision de la Voie Lactée et d’Andromède, N=100'000'000

On pourrait se dire qu’une petite étoile à un bout de la galaxie n’attire pratiquement pas une autre petite étoile très distante, mais négliger cette force n’est pas une bonne idée. D’une part, l’énergie totale du système ne serait plus conservée, et d’autre part il faudrait trouver un critère permettant de savoir quelles forces sont négligeables, sans les calculer.

ont proposé en 1986 un algorithme dont la complexité est O(N.log N). Pour N=1'000'000, il n’y a environ que 20'000'000 de forces à évaluer, ce qui rend le calcul possible. L’algorithme consiste à diviser l’espace en une structure arborescente appelée et à y répartir les corps. On ne calcule les forces qu’entre les corps situé dans la même zone de l’octree, puis l’algorithme calcule les interactions entre les zones. Reste une difficulté : en se déplaçant, les corps changent de zone, et l’algorithme nécessite d’adapter l’octree de l’adapter à la distribution des corps.

interaction de 2 amas de 50 galaxies. N=160'000

Dès 1987, a développé un algorithme baptisé “ ” (FMM), dont la complexité est O(N) seulement, et qui ne nécessite pas d’adaptation de la division de l’espace utilisée. Il est assez facile d’ , mais en 3D l’interaction entre zones est beaucoup plus complexe.

La FMM est considérée par certains comme l’un des algorithmes les plus importants du XXième siècle, car il peut être appliqué à des problèmes beaucoup plus généraux que les N corps, comme certains problèmes de ou de . Inutile de dire que je vais regarder ça de plus près …

Références:

, le logiciel développé par Barnes et Hut, site avec énormément de liens sur le domaine
Dossier “ ” sur AstroSurf
sur la Wikipedia
à Berkeley
: code VPython
sur Wikipedia
Guy Blelloch and Girija Narlikar “ ” Parallel Algorithms. Series in Discrete Mathematics and Theoretical Computer Science, Volume 30, 1997.
, une librairie de simulation N corps parallélisée sur GPU (processeur graphique)
: comparaisons et implémentation sur super ordinateurs

Logiciels N corps sur PC:

: le plus beau et le plus fun
: utilise l’alogrithme de Barnes Hut
, un peu ancien

Le GPS pour les nuls : Cartes et Routage

Sat, 27 Sep 2008 00:00:00 +0000

Dans l’ , j’explique comment votre GPS peut déterminer la latitude et la longitude où vous vous trouvez à partir de satellites. C’est génial, mais c’est peu utile si vous n’êtes pas un marin.

Ce qui fait l’intérêt du GPS de nos jours c’est qu’il vous dit que vous êtes sur la Route du Mandement en direction de Satigny, et qu’il faut tourner à droite 300m après le giratoire pour aller en direction de Bourdigny. Comment est-ce possible ?

En plus du récepteur sophistiqué décrit dans , un GPS contient une grosse mémoire pour stocker une carte géographique et un microprocesseur relativement puissant pour calculer votre itinéraire par une méthode qui fait l’objet de cet article.

La carte routière stockée dans votre GPS est bien plus qu’une digitalisation d’une carte routière en papier : elle contient le “ ” formé par le réseau routier, à savoir tous les carrefours (ou points, ou noeuds) reliés par un réseau de chemins (ou arcs, ou arêtes).

Pour aller d’un point à un autre, le microprocesseur de votre GPS va déterminer le trajet le plus court entre deux lieux en parcourant ce graphe. Si vous utilisez un logiciel de cartographie comme , vous vous êtes peut-être dit que Google a assez de gros ordinateurs pour le faire rapidement, et garde peut-être même en mémoire les requêtes les plus fréquentes (Paris - le Grau du Roi…) pour les resservir plus vite. Mais si vous avez un petit GPS dans votre voiture ou dans la main, vous avez certainement remarqué qu’il lui fait plusieurs secondes avant de pouvoir commencer à vous indiquer la direction à prendre. En réalité, c’est plutôt le fait qu’il n’ait pas besoin de minutes, voire d’heures de calcul qui tient de l’exploit, tant il existe de routes possibles.

Tout d’abord, remarquons que la position géographique des noeuds n’est pas indispensable pour résoudre le problème; seules les informations sur la “longueur” des routes importe réellement si on cherche à minimiser le trajet. Ceci permet d’ailleurs de choisir ce que l’on veut minimiser :

la distance parcourue. Dans ce cas seule la longueur de chaque route est utile
le temps nécessaire. Si chaque route est caractérisée par une vitesse moyenne ou un temps de parcours habituel, le chemin optimal favorisera une autoroute de contournement qu’une traversée urbaine
la consommation, le cout financier … En fait, on peut attribuer à chaque route un “cout” selon un critère quelconque, voir même deux couts correspondant aux deux sens de parcours, ce qui permet de tenir compte des sens interdits par exemple.
si une route n’existe pas, on peut même en inventer une de coût élevé pour faire de .

Ensuite, les trajets en voiture satisfont une hypothèse importante appellée “principe d’optimalité de Bellman” qui simplifie beaucoup la résolution du problème : si le trajet optimal de A à C passe par B, alors les trajets AB et BC sont aussi optimaux, et le cout pour aller de A à C est égal à la somme des couts AB+BC.

Cette hypothèse appelée semble évidente, mais elle peut être invalide avec d’autres moyens de transport:

Marc, un ami (ingénieur) qui prit un vol Copenhague-Reykjavik pour visiter l’Islande eut la surprise de s’apercevoir qu’il payait son billet plus cher que les nombreux autres passagers de l’avion qui volaient de Copenhague à New-York. Ce viol du principe d’optimalité rend plus compliqué la recherche du vol le moins cher.
Les transports publics partant à des heures déterminées par un horaire violent également le principe d’optimalité : il vaut parfois mieux choisir des trains avec de bonnes correspondances plutôt qu’un TGV qui nous obligera à perdre 1h dans une gare en attendant le train suivant.

Dans ces cas là, il faut tenter de modifier le problème pour le faire obéir au principe d’optimalité, soit se résigner à de très, très, très longs calculs.

Mais si le “principe d’optimalité de Bellman” est satisfait, et c’est le cas en voiture, alors on peut utiliser des algorithmes très efficaces :

Le célèbre publié en 1959 permet de trouver le chemin joignant deux noeuds d’un graphe en minimisant la somme des “couts” et donc de trouver le “ ”. Son temps de calcul est proportionnel à (m+n).log(n), où n est le nombre de nœuds et m le nombre de routes, ce qui rend possible son application sur des graphes comportant des millions de noeuds et routes.
En prenant en compte la position des villes, on peut utiliser des algorithmes heuristiques comme qui fournissent plus rapidement un chemin très proche de l’optimum dans le cas d’une carte “normale”, mais peuvent être plus lents que Dijkstra dans des cas vicieux.

Une fois le trajet optimal déterminé, il suffit à votre GPS de vérifier que vous le suivez scrupuleusement à partir des mesures satellite, de vous diriger à gauche ou à droite, et si vous vous plantez ou si vous rencontrez un bouchon, de recalculer en vitesse un nouveau trajet optimal.

L’étape suivante sera de remettre à jour les cartes embarquées dans les GPS par des signaux radio, genre Wifi ou téléphone 3G. En cas de bouchon ou de travaux, il suffit de modifier automatiquement le cout du trajet correspondant et hop, les voitures équipées conseilleront un nouveau trajet optimal à leur conducteur. Ca s’appelle le progrès et c’est pour bientôt.

Références:

Moshe Sniedovich , “ ”, Department of Mathematics and Statistics, The University of Melbourne, Parkville, VIC 3052, Australia

Palindrome de 196

Sun, 14 Sep 2008 00:00:00 +0000

palindrome par puja (flickr)

Prenons un nombre au hasard : 1729. Ecrivons-le à l’envers : 9271 et additionnons les deux nombres : 1729+9271=11000. Recommençons avec ce nombre : 11000+00011 = 11011.

Ce nombre est égal à lui même écrit à l’envers, c’est un nombre , comme le mot “radar” ou la phrase “élu par cette crapule” si on ne tient pas compte des espaces, ou encore “ ”, un texte de 5566 lettres écrit par Georges Perec en 1969.

Tiens, refaisons le calcul avec 1969 pour voir : 1969+9691 = 11660 11660+06611 = 18271 18271+17281 = 35552 35552+25553 = 61105 61105+50116 = 111221 111221+122111 = 23332 : palindrome !

Bizarre n’est-ce pas ? En fait on peut prendre n’importe quel nombre de départ, et la séquence d’opérations arrive inévitablement à un nombre palindrome en un nombre fini d’itérations. C’est du moins ce que l’on , car il y a deux problèmes :

nos amis mathématiciens n’ont aucune idée de la raison qui fait que ça marche, entre autre parce que “écrire un nombre en base 10 à l’envers” n’a pas de signification mathématique simple.
il y a un gros hic. Si on commence avec 196, on n’arrive pas à un palindrome même après 300 millions d’itérations…

196 est le plus petit des “ ” (en l’honneur de Cheryl, la petite amie du matheux qui a proposé cette propriété) : les nombres qui n’aboutissent apparemment pas à un palindrome … se trouvent évidemment , mais aussi quelques autres.

Ce qui est intéressant aussi, c’est la distribution du nombre d’itérations : très souvent, on atteint le palindrome en quelques étapes, même pour de très grands nombres, mais quelques rares nombres demandent quelques étapes de plus

Par exemple pour les nombres de 1 à 99, on arrive à un palindrome en 4 itérations ou moins pour 98 nombres, 79 et 97 ont besoin de 6 itérations, mais 89 et 98 nécessitent 24 itérations.

Pour les nombres de 1 à 999, 929 atteignent le palindrome en 6 itérations ou moins, 13 sont des nombres de Lychrel et les 57 restant ont besoin de moins de 24 étapes : 89 et 98 sont toujours les plus gourmands en itérations

Poussons jusqu’à 10'000 : à part les 249 (edit du 6.1.14 : et non 246) nombres de Lychrel, il n’y a toujours pas d’autre nombre que 89 et 98 qui nécessite plus de 24 itérations.

La quête du “ ” a commencé par ces résultats :

Nombre	Iterations	Palindrome
10911 147996 150296 1000689 1005744 1017501 7008899 9008299	55 58 64 78 79 80 82 96	4668731596684224866951378664 8834453324841674761484233544388 682049569465550121055564965940286 796589884324966945646549669423488985697 796589884324966945646549669423488985697 14674443960143265333356234106934447641 68586378655656964999946965655687368586 555458774083726674580862268085476627380477854555

le record du monde actuel (2008) date de 2005 et concerne le nombre 1'186'060'307'891'929'990, qui produit un palindrome de 119 chiffres après 162 itérations.

On voit que le nombre maximal d’itérations requises n’augmente que très lentement, ce qui rend les nombres de Lychrel encore plus intriguants et exceptionnels.

A propos : j’ai commencé cet article par est peu intéressant : 1548+8451 = 9999. Ou alors, 30 ans plus tard, je viens de découvrir une nouvelle propriété de ce nombre …

Références:

pour le calcul de palindromes
sur MathWorld

Loi de Moore ... toujours ?

Thu, 19 Jun 2008 00:00:00 +0000

Le premier ordinateur capable d’effectuer un million de milliards d’opérations par seconde (un petaflop) fait “bip-bip” depuis quelques jours. Le supplante ainsi le “BlueGene/L d’IBM aussi, vieux d’une année seulement et qui plafonnait à 0.476 petaflop.

D’après les mesures de qui répertorie les 500 plus puissants ordinateurs de la planète, leur puissance augmente avec une régularité de métronome depuis plus de 30 ans, décuplant en 4 ans, donc doublant en un peu moins de 18 mois.

En ce qui me concerne, c’est assez facile de me représenter cette fantastique croissance : mon PC de bureau actuel correspond assez bien au alors que j’y étudiais en 1986. A l’époque c’était un honneur assez étroitement surveillé d’avoir le droit de faire tourner un programme dessus. Maintenant, il sert de siège dans un couloir.

Selon top500.org et d’autres sources, la progression devrait se poursuivre en tout cas encore une décennie : on devrait avoir un ordinateur de 10 pétaflops en 2012 et un de 100 en 2016, en attendant un “roadrunner de bureau” aux alentours de 2028.

La raison de cet optimisme tient au fait que la puissance des ordinateurs résulte de la combinaison favorable de plusieurs facteurs, et que lorsqu’on s’approche d’une limite sur l’un des facteurs, ça crée un potentiel d’amélioration sur un ou plusieurs autres

La loi de Moore

L’un des facteurs essentiels est la miniaturisation de l’électronique. En 1965, , un des fondateurs d’intel, postula qu’on serait capable de doubler chaque 2 ans le nombre de transistors d’un circuit électronique à prix constant. Sa prédiction s’est extraordinairement bien vérifiée non seulement pour les microprocesseurs, mais aussi pour les mémoires RAM :

[

]( pour un site d’Intel consacré à la loi de Moore

Il faut bien remarquer que l’on parle ici du nombre de transistors et pas de la puissance du processeur, qui d’ailleurs double en 18 mois, soit plus vite que le nombre de transistors ! Comment est-ce possible ?

La fréquence

Autour de 1986, j’ai assisté à une conférence de Cray à l’EPFL qui expliquait en substance : “nos ordinateurs sont ronds parce que les ordinateurs du futur devront être ronds. Dans le Cray XMP, à 100 MHz, le courant parcourt moins de 3m dans les fils entre 2 coups d’horloge. A 1GHz, si on y arrive un jour, ça ne sera que 30 cm. Pensez-y : les processeurs ne pourront pas être à plus de 30cm de la mémoire !”

Aujourd’hui, si les processeurs travaillent autour de 3 GHz et la mémoire autour de 1 GHz, c’est beaucoup parce que la miniaturisation a réduit la longueur des “cables”. gravés dans le silicium ou imprimés dans la résine, on connait leur longueur, leur section et la distance aux conducteurs voisins avec une précision extrême, ce qui permet de les optimiser en tenant compte de tous les effets électromagnétiques étranges survenant à ces fréquences.

Petite anecdote à ce propos : il y a 20 ans on apprenait qu’il était assez facile de déboguer un circuit digital en ralentissant son horloge, éventuellement jusqu’à la commander à la main avec un petit switch… On m’a dit que ce n’était plus possible actuellement : un Pentium ne fonctionne carrément pas du tout à 1 Hz, car ses circuits sont conçus pour la haute fréquence.

Malgré ceci, en 2003 la fréquence des processeurs qui croissait rapidement s’est retrouvée rapidement limitée en dessous de 4 GHz, entre autres pour des raisons thermiques.

En effet, un circuit consomme d’autant plus d’électricité qu’il fonctionne vite, ce qui fait , et ils n’aiment pas ça. Les Cray 1 et XMP étaient refroidis par une circulation de liquide entre les circuits imprimés, le Cray 2 était carrément immergé dans du réfrigérant liquide, et on se demandait bien quelle serait la prochaine étape. Mais là encore, la miniaturisation a permis de faire des machines tout aussi puissantes refroidies par de simples ventilateurs assistés éventuellement de .

GaAs, optique, quantique …

Pour contourner les difficultés rencontrées avec l’augmentation des fréquences, on a parfois proposé des ruptures technologiques assez radicales. La plus ancienne et la moins radicale concernait l’utilisation d’ à place du silicium. En principe, les transistors à GaAs sont beaucoup plus rapides que ceux au silicium et auraient permis de fonctionner à des dizaines de GHz, mais ils souffrent aussi de problèmes tels que la mise au point de circuits GaAs pour le a contribué à la faillite de l’entreprise Cray research.

L’optique est aussi souvent citée comme une technologie de substitution possible à l’électronique. Certains circuits optiques spécialisés très rapides ont été réalisés, mais rien qui ne puisse prétendre concurrencer un ordinateur actuel.

Même dans le domaine du stockage, et malgré les CD et le DVD, l’optique n’a pas réussi à s’imposer en informatique. En 1988, j’ai assisté à une présentation de Pinnacle à l’EPFL qui disait en substance : “voici le premier disque capable de stocker 1Gb sur un seul plateau. Oui mesdames et messieurs, il est optique car il est évident que jamais un disque magnétique n’arrivera a stocker une densité pareille d’information” …

De même, l’informatique “quantique” permet de rêver à des machines basées sur des principes totalement différents de ceux de Von Neumann, mais rien de concret ne laisse croire que cette technologie puisse jouer un rôle important en informatique dans les prochaines décennies.

Parallélisme à tous les étages

Si la densité des transistors sur une puce augmente exponentiellement, le nombre de défauts sur une tranche de silicium limite toujours la taille maximale des puces pouvant être produites. A un certain point, il devient possible de mettre deux “coeurs” de processeur sur la même puce. Puis quatre (18 mois après…). intel et AMD nous proposeront peut-être des Hexiums et des Octérons dans 1 an ou 2, mais ce n’est pas sur, car vous avez peut-être déjà un processeur équipé de 100 ou 200 unités de calcul dans votre PC, sans le savoir.

L’apport des GPUs

Depuis quelques années on assiste à (Graphics Processing Unit) : le processeur équipant une bonne carte graphique (nVidia ou ATI) effectue nettement plus de calculs que le processeur central (CPU) de votre PC :

Jusqu’à récemment, l’architecture des GPU était uniquement destinée à la production d’images de scènes 3D en temps réel. Mais désormais ces processeurs peuvent être utilisés pour le calcul scientifique, la simulation de phénomènes physiques et d’autres applications exigeant une grosse puissance de calcul (voir mon blog à ce sujet)

nVidia vient de , doté de 1.4 milliards de transistors qui réalisent 240 coeurs fournissant 930 Gigaflops : l’ordinateur le plus puissant du monde de1992 est maintenant dans votre carte graphique !

Les GPU ne sont cependant pas (encore?) capable de faire fonctionner des programmes “normaux” : il faut toujours un CPU pour faire tourner un système d’exploitation, Word, Firefox 3 et quelques autres logiciels simultanément, ce qui justifie 2 voire 4 coeurs, mais probablement pas 6 ou 8.

Vers un mix

Un des processeurs les plus puissants actuellement est le “ ” d’IBM qui équipe la console PlayStation 3 (voir ) Il contient 1 coeur de processeur “classique” et 8 petits coeurs “SPE” plus inspirés de ce que l’on trouve dans les GPU. Le coeur classique fournit 20 GFlops avec des nombres en double précision, les 8 “SPE"s montent à 200 GFlop en simple précision, suffisante pour beaucoup d’applications

Depuis qu’AMD a racheté ATI et qu’intel s’est mis à (essayer de) faire des processeurs graphiques, il n’y a plus guère de doute : les futurs processeurs combineront la flexibilité des CPU actuels et la puissance brute des GPU, et cette combinaison rendue possible par la Loi de Moore continuera à faire progresser la puissance de nos ordinateurs au rythme immuable du doublement chaque 18 mois encore de nombreuses années.

Et après ?

Il y a bien un moment où les limites physiques seront atteintes : un conducteur métallique doit tout de même avoir quelques atomes de diamètre, comme . Actuellement les processeurs les plus fins ont des “fils” de 45nm, soit environ 200 atomes de large. Admettons qu’on peut les réduire encore d’un facteur 10, ce qui donne une densité 100x plus élevée que l’on atteindra, selon la Loi de Moore dans 13 ans environ. Que faire après ?

La meilleure réponse à cette question que j’aie entendu est celle du prof. lors de sa leçon terminale. En substance il disait “jusqu’à maintenant, on ne grave les puces que sur la surface du silicium, sur des fractions de micron d’épaisseur. On pourrait déjà simplement faire de la gravure sur les deux faces du wafer pour doubler le nombre de transistors. Et puis on pourrait faire des couches multiples. Sur une épaisseur de wafer de silicium, disons 1 mm, on a de la place pour 1000 couches de 1 micron, ça laisse encore 20 ans de plus de validité à la loi de Moore.”

On estime que la puissance d’un cerveau humain équivaut à 10 Petaflops, soit la puissance cumulée des 500 plus puissants ordinateurs actuels, qui occument au moins 500 salles actuellement. En 2012, l’ordinateur le plus puissant fournira la même puissance dans une seule salle, et en 2020 environ vous devriez l’avoir sur votre bureau, ou dans la console de jeu familiale. Si les programmeurs travaillent aussi bien que les fabricants de processeurs, peut-être qu’enfin, , votre PC saura vous reconnaitre et vous appeler par votre prénom…

Références:

avec
1. “ ”
" ” sur Tom’s Hardware
Jean-Michel Billaut “ ”

4 coeurs, c'est mieux que 2. parfois.

Sat, 19 Apr 2008 00:00:00 +0000

A peine s’est-on habitués à l’idée d’avoir des processeurs à double coeur dans nos PC que les quadruple coeurs ( ou ) débarquent dans les PC haut de gamme, et bientôt sur nos bureaux.

Si le double coeur apporte sans conteste un gain de confort (un coeur pour Windows, un autre pour l’application …), il faut reconnaitre que très peu d’applications sont capables de tirer parti du gain de performance qu’apportent théoriquement deux unités de calcul. Que dire pour quatre ?

L’article “ ” de Jeff Atwood donne une réponse simple après de nombreux tests : “ça dépend”.

Certaines applications vont presque 2x plus vite avec 4 coeurs qu’avec 2 : elles sont parfaitement parallélisées, avec des processus très indépendants ne nécessitant que très peu de communication entre eux. , certains benchmarks et des modules de jeux comme le sont du nombre.

D’autres logiciels sont moins “scalables”, essentiellement parce que les processus doivent s’échanger des données entre eux, et chaque synchronisation bloque l’utilisation simultanée des coeurs. Avec 4 coeurs, l’accélération n’est “que” d’environ 150%. Dans cette catégorie on trouve par exemple , et d’autres programmes de traitement d’images notamment.

Enfin, il y a tous les programmes qui ne sont pas parallélisés, ou qui n’ont été codés que pour 2 coeurs. Et il faut bien le reconnaitre, c’est le cas de la plupart des logiciels actuels.

Reste que la tendance est lancée : les processeurs auront bientôt 4, 8, 16 coeurs ( qui équipe déjà la Playstation III a déjà 1+8 coeurs, on les voit bien sur la photo), et les programmeurs sont en train d’apprendre à en tirer parti.

Pour l’instant, un Quad vous apportera donc peu de gain de performance sur des applications interactives. Mais si vous encodez des videos, faites du rendu réaliste ou autres applications fonctionnant pendant des heures en tâche de fond, les 4 coeurs vous apporteront un gain de vitesse tout en laissant la machine disponible pour du travail interactif, ça peut valoir le coup.

(article publié aussi )

Perlisismes : les dictons informatiques d'Alan Perlis

Mon, 21 Jan 2008 00:00:00 +0000

Alan Jay Perlis

En préparant un autre article, je suis tombé sur quelques citations d’ , un précurseur de la programmation et célèbre professeur à Carnegie Mellon et Yale. Les dictons informatiques dont il émaillait ses cours ont été publiés

\[1\]

et sont passés à la postérité sous le nom de “Perlisismes”, mais ne sont disponibles qu’en anglais. Ne les ayant pas trouvé en français, je me suis fendu (de rire) d’une traduction, en les reclassant par thèmes subjectifs et en les classant selon mes préférences. Régalez vous !

Philosophie

La constante d’une personne est la variable d’une autre.
Les inconscients ignorent la complexité. Les pragmatistes en souffrent. Certains parviennent à l’éviter. Les génies la suppriment.
En poursuivant l’inaccessible, la simplicité se trouve en travers du chemin.
La simplicité ne précède pas la complexité, elle la suit.
Vous ne pouvez pas communiquer la complexité, juste en faire prendre conscience.
N’ayez pas de bonnes idées si vous n’êtes pas prêt à en être responsable.
L’optimisation entrave l’évolution.
Souvent les moyens justifient la fin : le but fait avancer la technique, et la technique survit même quand le but s’effondre.
On ne peut pas aller de l’informel au formel par des moyens formels.
Slogan pour un labo de recherche : Nous travaillons aujourd’hui sur ce à quoi d’autres vont penser demain (What we work on today, others will first think of tomorrow.)

Informatique

Dans la symbiose homme-machine, c’est l’homme qui doit s’adapter parce que la machine ne peut pas.
En informatique, les invariants sont éphémères.
La preuve de la valeur d’un système informatique est son existence.
Le contact prolongé avec les ordinateurs transforme les mathématiciens en comptables et vice versa.
L’informatique (Computer Science) est gênée par les ordinateurs.
L’ordinateur est le pollueur ultime : ses fèces sont indistinguables de la nourriture qu’il produit.
Les systèmes ont des sous-systèmes, et les sous-systèmes ont des sous-sous-systèmes et ainsi de suite à l’infini. C’est la raison pour laquelle nous recommençons chaque fois de zéro.

Intelligence artificielle

Une année de travail sur l’intelligence artificielle est suffisante pour vous faire croire en Dieu.
Dans un ordinateur, le langage naturel n’est pas naturel.
Si votre ordinateur parle anglais, il a probablement été fabriqué au Japon.
Quand nous écrivons des programmes qui “apprennent”, ce qui arrive c’est que nous apprenons, et eux pas.
Il y aura toujours des choses que nous aimerions dire dans nos programmes, mais qui ne peuvent être que mal dites avec tous les langages connus.
La seule théorie constructive liant les neurosciences et la psychologie surviendra de l’étude du logiciel.
Le but de l’informatique est l’émulation de nos facultés de synthèse, pas la compréhension des facultés analytiques.
L’ordinateur le plus important est celui qui bouillonne dans nos crânes et recherche de nouvelles satisfactions extérieures. La standardisation des ordinateurs serait un désastre, donc ça n’arrivera probablement pas.

Programmation

Il y a deux manières d’écrire des programmes sans erreurs. Seule la troisième marche.
Le 11ème commandement était “Tu programmeras” ou “Tu ne programmeras pas”, je ne me souviens plus au juste.
Programmer est un acte contre nature.
Tout programme a (au moins) deux buts : celui pour lequel il a été écrit, et celui pour lequel il ne l’a pas été.
Il est plus facile de changer la spécification pour qu’elle corresponde au programme que le contraire.
Adapter de vieux programmes à de nouvelles machines signifie habituellement adapter les nouvelles machines pour qu’elles se comportent comme les anciennes.
En informatique, passer de l’évident à l’utile est une définition vivante du mot “frustration”.
La documentation est comme une assurance-vie : le bénéficiaire n’est presque jamais celui qui l’a signée.
On ne manquera jamais de choses à programmer aussi longtemps qu’il y aura un seul programme.
le meilleur livre grand public sur la programmation est “Alice au Pays des Merveilles”, parce que c’est le meilleur livre grand public sur tous les sujets.

Code

Chaque programme est un bout d’un autre programme qui convenait mal.
Tout doit être construit de haut en bas (top-down), sauf la première fois.
Si vous avez une fonction avec 10 paramètres, vous en avez probablement oublié.
Un programme sans boucle et sans structure de donnée ne vaut pas la peine d’être écrit.
Rendre quelque chose variable est facile. Le problème, c’est de contrôler la durée de la constance.
A long terme, tout programme devient , puis des gravats.
La récursion est la racine du calcul car elle échange la description contre du temps.
Un programme qui manipule un grand nombre de données le fait d’un petit nombre de manières.
C’est mieux d’avoir 100 fonctions travaillant sur une structure de données que 10 fonctions pour 10 structures.

Programmeurs

Une fois que vous comprenez comment écrire un programme, trouvez quelqu’un d’autre pour l’écrire.
Pour comprendre un programme, vous devez devenir à la fois la machine et le programme.
Il est plus facile d’écrire un programme incorrect que d’en comprendre un correct.
Si votre interlocuteur hoche la tête pendant que vous lui expliquez votre programme, réveillez-le!
Quand deux programmeurs se rencontrent pour critiquer leurs programmes, les deux sont silencieux.
Peut-être que si nous écrivions des programmes depuis notre enfance, nous pourrions les lire à l’age adulte.
En programmation, tout ce que nous faisons est un cas particulier de quelque chose de plus général, et souvent nous nous en apercevons très vite.
Vous pouvez mesurer les perspectives d’avenir d’un programmeur par son attitude par rapport à la vitalité de FORTRAN.
Il ne faut pas évaluer les programmeurs par leur ingéniosité ou leur logique, mais par l’étendue (completeness) de leur étude de cas (case analysis).

Langages

Il ne vaut pas la peine de connaitre un langage qui ne modifie pas votre façon de penser la programmation.
Certains langages de programmation arrivent à absorber des changements, mais résistent au progrès.
Sur une période de 5 ans on trouve un superbe langage de programmation. Mais on ne sait pas quand cette période de 5 ans aura lieu.
Un langage de programmation est “bas niveau” quand il nécessite de faire attention à ce qui n’a aucune importance.
Un bon système ne peut pas avoir un langage de commande faible.
Si quelqu’un dit “je veux un langage de programmation dans lequel je n’aurais qu’à dire ce qui doit être fait”, donnez lui une sucette.
Alors que les chinois devraient adorer , ils investissent dans FORTRAN.
Un programmeur LISP connait la valeur de tout, mais le cout (cost) de rien.
Au cours des siècles, les Indiens ont développé un langage de signes pour communiquer des phénomènes intéressants. les programmeurs des différentes tribus (FORTRAN, LISP, ALGOL, SNOBOL, etc.) auraient pu en utiliser un pour éviter de transporter un tableau noir sur leur poneys.

Bons conseils:

la symétrie est un concept réduisant la complexité : utilisez la partout.
Entrez tôt dans une routine : faites la même chose de la même façon. Accumulez les tournures (idioms). Standardisez. la seule différence (!) entre Shakespeare et vous est la liste de ses tournures, pas la taille de son vocabulaire.

Enseignement

Enseigner la programmation va à l’encontre de l’éducation moderne : Quel est le plaisir à planifier, se discipliner à organiser ses pensées, faire attention aux détails et apprendre à être autocritique ?
On n’apprend pas l’informatique avec une calculatrice de poche, mais on peut oublier l’arithmétique.
La plupart des gens trouvent le concept de la programmation évident, mais la réalisation impossible.
Tout le monde peut apprendre à sculpter : on aurait du dire à comment ne pas le faire. C’est la même chose avec les grands programmeurs. (édité le 23.11.11 à partir de WikiQuote)
Vous croyez savoir quand vous apprenez, vous en êtes sur quand vous écrivez, persuadé quand vous enseignez, mais certain seulement quand vous programmez.

Jeux de mots intraduisibles

Syntactic sugar causes cancer of the semicolon. (Le cause le cancer du point-virgule)
Editing is a rewording activity. (L’édition est une activité de rephrasage (rewOrding) récompensante (rewArding))
Like punning, programming is a play on words.
In software systems, it is often the early bird that makes the worm.

Vous trouverez encore sur que je n’ai pas traduits, soit parce que je ne les trouvais pas terribles, soit parce que je ne les ai pas compris …

Référence :

\[altmetric doi="10.1145/947955.1083808" float="right"\]Alan J. Perlis “ ”, SIGPLAN Notices Vol. 17, No. 9, September 1982, pages 7 - 13

le top 500 des supercalculateurs

Tue, 27 Nov 2007 00:00:00 +0000

L’article “ ” sur Futura-Sciences donne quelques infos intéressantes sur les du monde actuellement :

La puissance de calcul cumulée des 500 supercalculateurs les plus puissants du monde équivaut à 6,97 PFlops (pétaflops), soit pratiquement le double des 3,54 PFlops d’il y a un a. La Loi de Moore est donc toujours aussi remarquablement vraie :

puissance de calcul du plus puissant ordinateur du monde (#1), du 500ème et de la somme des 500 Attention : l’échelle vertical est logarithmique : chaque division correspond à 10x la puissance de celle d’en dessous !
Le BlueGene/L installé au Lawrence Livermore National Laboratory est l’ordinateur le plus puissant du monde depuis 2004. Il dispose désormais de 32x32x64 = , délivrant 478,2 TFlops (contre 280,6 TFlops en juin dernier)
Les Xeon double coeur d’Intel équipent 43% des supercalculateurs, et les quadruple coeur déjà 20% ! Mais les PowerPC d’IBM équipent toujours 34% des 50 machines les plus puissantes, dont le BlueGene/L, et AMD se maintient autour de 10% de parts de marché, notamment grâce à Cray qui va équiper son XT5 avec des AMD Opteron
Le projet , qui utilise une “grille” formée par les machines mises à disposition sur internet par les particuliers lorsqu’is ne s’en servent pas, a disposé le 15 septembre d’une puissance de calcul de 1 Petaflop, soit le double du BlueGene/L ! Cette puissance a été fournie à 60% par des consoles de jeu mues par le processur Cell d’IBM qui est en quelque sorte un PowerPC avec 8 coprocesseurs vectoriels.

Tout ça doit …

Radiateurs à Téraflops ?

Sat, 17 Nov 2007 00:00:00 +0000

"Human Energy" par Caneles

En réfléchissant un peu sur le sujet des , je me demande si je ne devrais pas également remplacer mes radiateurs électriques * par des appareils utilisant plus efficacement l’énergie.

Le problème est que, par définition, un radiateur électrique a un rendement de 100% : 100% de l’électricité consommée est convertie en énergie considérée comme utile, soit de la chaleur. Apparemment on ne peut pas faire mieux.

Heureusement, la chaleur a la particularité d’être l’énergie de “qualité” la plus basse, celle qui en définitive résulte de tous les processus physiques normaux (frottements, combustion et oxydation, résistance électrique, induction etc), alors que l’électricité est la forme d’énergie la plus noble : on peut en faire ce qu’on veut avec un excellent rendement. C’est-ce qu’on appelle l’ .

Donc pourquoi faire de la chaleur directement en passant un courant électrique dans un corps de chauffe ? c’est un gaspillage inouï ! Autant en faire quelque chose de plus utile, qui lui-même produira de la chaleur par effet secondaire. C’est notamment le cas avec les à incandescence, faites pour faire de la lumière, mais qui chauffent aussi.

Mais le meilleur radiateur que l’on puisse faire actuellement, c’est sans doute l’ordinateur ! Une armoire renfermant quelques dizaines de processeurs chauffe autant qu’un radiateur de quelques kilowatts. Actuellement, les processeurs consomment environ 6W pour une puissance de calcul d’un gigaflop (un milliard d’opérations en virgule flottante par seconde), donc je devrais arriver à remplacer mon radiateur à accumulation de 6KW par un super-ordinateur fournissant 1 Teraflop !

Avec toute cette puissance, tout en chauffant, je peux aider la recherche sur le cancer et de nombreux autres projets scientifiques (voir ), ou calculer les images de synthèse des prochains films à grand succès, ou et autres projets inutiles. Je peux peut-être même revendre une partie de cette puissance de calcul au CERN voisin. Et tout ça en retrouvant les 100% de rendement thermique de mon radiateur !

Bien sur, pour l’instant mon chauffage à processeurs coute encore un peu cher, mais un jour peut-être, un corps-de-chauffe en silicium viendra remplacer le bout de ferraille actuel pour un prix compétitif …

*Note: Oui, je chauffe à l’électrique, Non, j’ai pas le choix, c’est une maison du XVIIème siècle, pas excavée, et bientôt on chauffera tous par accumulation d’électricité nucléaire la nuit plutôt que de brûler du (le prix où il est )

La montée en puissance des GPUs

Fri, 02 Nov 2007 00:00:00 +0000

Dans les ordinateurs vendus depuis 2003 environ, le microprocesseur (CPU) fourni par Intel ou AMD n’est plus le composant le plus puissant, et souvent plus le plus couteux non plus. Désormais c’est le GPU, le Graphics Processing Unit, qui détermine largement la puissance d’un PC. Strictement limités au graphisme il y a peu, ces processeurs sont désormais capables d’effectuer certains calculs nettement plus vite que les processeurs classiques. Actuellement, la puissance de calcul du G80 de nVidia est 5 à 6 fois supérieure à celle du Core 2 Duo d’Intel, voire plus (1, 2).

puissance de calcul des GPU et CPU ( )

Conséquence immédiate :

Si vous achetez un ordinateur pour y faire fonctionner les applications les plus exigeantes, c’est-à-dire les jeux vidéo, il faut faire plus attention au choix du GPU qu’au CPU. Vous ne gagnerez que quelques pourcents de performance avec un CPU plus rapide qui vous coûtera quelques centaines de francs, alors que la même somme investie dans une carte graphique basée sur un GPU plus récent ou puissant peut doubler le nombre d’images / seconde (fps) de vos applications favorites.

Un peu d’architecture des processeurs

Cette situation est la conséquence de cahiers des charges différents assignés aux deux composants:

le CPU est “généraliste” : il doit être capable d’exécuter plusieurs programmes différents quasi simultanément, de réagir aux actions de l’utilisateur et de gérer les nombreux périphériques de l’ordinateur, fonctionnant à des vitesses différentes
le GPU est historiquement spécialisé : sa tâche est de produire des images à une cadence régulière, ce qu’il peut faire en exécutant le même programme simple sur des données différentes, correspondant par exemple à des objets 3D distincts ou à des portions distinctes de l’écran.

Ceci a conduit à des architectures différentes pour les deux types de processeurs :

les CPU comportent aujourd’hui 2 ou 4 “coeurs” complexes accédant aux données à travers une grande mémoire cache, le tout synchronisé par une importante logique de contrôle
Sur la même surface de silicium, un GPU moderne contient jusqu’à 128 unités de calcul simples, mais très peu de mémoire cache et de logique de contrôle.

architecture des GPU et CPU ( )

Cette différence d’architecture fait qu’il n’est pas possible d’exécuter sur le GPU un programme “classique”, écrit pour le CPU car:

les unités de calcul (ALU) du GPU sont individuellement moins puissantes qu’un coeur de CPU.
Un GPU est un processeur SIMD, ou “Single Instruction Multiple Data” : toutes les ALU d’un GPU doivent exécuter le même programme en même temps, alors que chaque coeur de CPU peut exécuter des programmes distincts de façon asynchrone (MIMD)
les échanges de données entre les ALU de GPU sont beaucoup plus limités qu’entre des coeurs de CPU
la structure “pipeline” des GPU fait que leurs performances sonttrès dégradées dès qu’il y a des tests dans le programme. Il faut programmer les GPU sans “if … then .. " !

La principale conséquence de ces différences hardware est que les langages de programmation usuels ne sont pas adaptés à la programmation des GPU. Des langages spécifiques ont été définis, initialement pour la programmation des “shaders”, programmes réalisant tous les effets graphiques des cartes modernes. Mais ces langages permettent aussi la “programmation générale des GPU” (ou ), dont j’ai déjà parlé , , et :

nVidia a défini le langage comme “C pour graphiques”
ATI a plutôt soutenu le standard défini par le standard
Microsoft a encore une fois grandement contribué aux progrès de l’humanité en dotant son système maison Direct3D d’un langage de shader dont l’innovation essentielle consiste à changer une lettre au standard . C’est HLSL. (Non, pas de lien pour eux, z’avez qu’à chercher.)
nVidia a par contre fait un réel pas en avant en proposant son système qui permet de développer directement ses GPU haut de gamme en C “classique” , à l’aide de librairies spécifiques.

Perspectives

Du point de vue matériel, les processeurs du futur combineront sans doute les avantages respectifs des GPU et des CPU. Voici la stratégie probable des principaux acteurs du marché :

Après le rachat d’ATI, AMD a tout en main pour combiner les deux types de processeurs de façon optimale
intel, dont les GPUs ont des performances lamentables, essaie de multiplier le nombre de coeurs de ses CPU tout en s’inspirant de certaines techniques des GPU
nVidia va logiquement tenter de généraliser ses GPU pour leur permettre d’exécuter du code de CPU
On l’oublie souvent, mais le processeur d’IBM développé en collaboration avec Toshiba et Sony pour la Playstation 3 est probablement le précurseur de cette nouvelle génération de processeurs.

Du point de vue logiciel, deux tendances s’affrontent:

la définition de langages spécifiques comme GLSL, ou prenant en compte explicitement le parallélisme à la manière des librairies de multithreading existantes
le développement de compilateurs capables de générer du code GPU optimisé à partir de sources en langages classiques, à la manière de CUDA

Il est probable que dans un premier temps les langages comme GLSL jouent le rôle d’ “assembleur des GPU” utilisé pour la création de librairies, que des applications en C utiliseront de manière transparente.

Sources:

Damien Triolet “ ”, BeHardware, March 21, 2007
Jean Etienne, “ ”, Futura-Sciences, 31 octobre 2007

Vista Diaboli !

Sun, 13 May 2007 00:00:00 +0000

Je croyais que “Vista Diboli” signifait “J’ai vu le Diable” en latin, mais ce n’est que le titre d’un épisode de Tanguy et Laverdure qui se passe en Suisse et qui signifie “ennemi en visuel” en . Bon titre quand même donc.

Bref, je vais (enfin) vous donner mon avis sur le “nouveau” système d’exploitation" de Microsoft : Windows Vista.

En résumé, Vista c’est Windows XP en plus joli et plus paranoïaque.

“Windows XP”, parce que toutes les promesses de nouveautés fondamentales comme sont passées à la trappe, et l’interface utilisateur à laquelle je n’avais rien compris dans les versions Beta de Vista a laissé la place à un truc dans lequel tout utilisateur de Windows retrouve ses petits sans douleur.

“En plus joli”, parce que que quand même, il fallait bien que Microsoft préserve sa réputation et continue à bouffer la moitié de la puissance de la machine pour son système. Avec des cartes graphiques puissantes et des processeurs multicoeurs, ça ouvre des perspectives : fait s’illuminer les icônes quand la souris les survole, les fenêtres apparaissent avec un joli petit effet de zoom et peuvent même se mettre en travers pour faire un joli effet 3D totalement inutile. Dans le même temps, des trucs comme vont beaucoup plus loin dans ce domaine.

“En plus paranoïaque” parce que les modifications internes de Vista par rapport à XP vont toutes dans le sens de la sécurisation du système. Sécurité est à prendre au sens large : Microsoft ne permet à plus personne de modifier le fonctionnement du coeur de Windows. Tout ce qui n’est pas signé Bill Gates tournera désormais en “user mode”. Même les drivers des cartes graphiques n’ont dorénavant pas plus de droits qu’un programme normal.

Si cette parano ne touchait pas l’utilisateur, elle serait encore acceptable, mais la prise en main de Vista nous met le nez en plein dedans : chaque lancement de programme doit être re-confirmé “est-ce bien vous qui avez lancé le programme gnagnagna ?” alors qu’on vient de cliquer sur l’icône ! Rapidement insupportable de se faire chaperonner ainsi.

Côté compatibilité, rien à signaler : tous les programmes XP tournent sous Vista, et il n’y a pour l’instant pas vraiment de logiciels ne fonctionnant pas sous XP, marché oblige.

Bref, aucune raison de passer volontairement à Vista. Une mise à jour depuis Windows XP ne vous apportera aucun gain de productivité. Et pour vous en mettre plein les mirettes, n’importe quel jeu fera bien mieux que Aero. Si vous vous achetez un nouveau PC, vous n’aurez pas le choix : Vista sera dessus, ce sera bien assez tôt.

L’informatique détruit l’information !

Sun, 25 Feb 2007 00:00:00 +0000

Ce titre peut sembler digne du “Matin”, mais c’est très sérieux!

J’ai réécrit la section 5.3 du Chapitre 5 d’ “Ecologie Informatique"qui traite du fait peu connu que l’informatique détruit l’information, ou au mieux la conserve, mais n’en crée en aucun cas !

Quelques découvertes récentes m’ont encouragé à clarifier ce passage :

une réflexion sur les listes triées, mentionnée
qui décrit bien le point de vue intuitif selon lequel l’information se détruit lentement,
qui n’aime pas les destructions plus rapides et propose une variante de la loi de la robotique d’Asimov pour l’interdire. Justement, les nouvelles d’Asimov sont basées sur les contradictions que les lois impliquent …
une info récente (que je n’arrive plus à retrouver…) selon laquelle Microsoft étudierait des moyens de stocker l’information de manière éternelle. J’ai aussi ma petite idée à ce sujet, que je détaillerai plus loin dans le livre …
Un passage trouvé et tiré de l’article “Des trous noirs en laboratoire”, Bernard Carr et Steven Giddings, Pour la Science, 332, juin 2005, qui montre que la notion d’information est devenue cruciale aussi en physique théorique : En particulier, la découverte de l’évaporation des trous noirs a mis en évidence un paradoxe situé au coeur des difficultés qui empêchent de concilier la relativité générale et la mécanique quantique. D’après la relativité générale, l’information contenue dans ce qui tombe sur un trou noir est perdue à jamais. Cependant, si le trou noir s’évapore qu’arrive-t-il à l’information qu’il referme ? S. Hawking a suggéré qu’un trou noir s’évapore totalement, en détruisant l’information. La destruction de l’information va à l’encontre des dogmes de la mécanique quantique, et viole en particulier la loi de conservation de l’énergie, ce qui la rend peu plausible. L’alternative selon laquelle les trous noirs laissent derrière eux des vestiges est tout aussi inacceptable. Pour que ces vestiges encodent toute l’information qui aurait pu tomber dans le trou noir, il faudrait qu’ils se présentent sous une variété infinie de types

U3 : les nouvelles clés USB

Fri, 23 Feb 2007 00:00:00 +0000

Why Software Will Run Faster

Thu, 28 Dec 2006 00:00:00 +0000

in “ ”, Ralph Gabowski quotes 7 facts that look correct, but I think his conclusion isn’t.

Multicore (fact 3) is a hardware solution to implement multiprocessing at a “medium grain” level : it is efficient to run different programs, or processes, or threads that have little communication with others (to avoid problem mentioned in fact 5).

However, there is no reason to “rewrite software for multicore” (fact 4). Compilers will soon integrate tools like to generate optimized multithreaded code, perhaps with a little help from human preprocessing (with for example).

The reason why I’m confident about this is that compilers already handle very well “fine grain” parallelism, or “vectorization”, to execute independent operations (almost) simultaneously.

GPUs are precisely “fine grain parallel” processors that were designed for graphics (fact 7), but this might change. Analysts think the purchase of ATI by AMD annouces a merge of CPUs and GPUs in the near future. We will likely see soon multicores CPUs with highly parallelized cores, each being able to work either as a GPU or as a CPU on demand. The , used in Sony’s Playstation 3 might be considered as a first attempt in this direction. And true, few software can take advantage of its power for now.

The fact that CPU clock speeds “stalled” (fact 1) doesn’t mean that processing power did so. Parallelism is a way to continue to increase Flops (FLoating Point Operations per Second) without increase in Gigaherz, which proved to be a “cheap”, non-innovative way to improve performance.

Finally, 64 bits processors bring indeed the power to address gigantic memory (fact 6) which looks almost useless at first sight. However, every programmer knows the tradeoff between cpu and memory : you can either store large tables of data and access it fast, or spend time to recalculate the data you need when you need it. So with larger, faster and cheaper memory, a good way to make software faster is to store more temporary data in huge caches.

One step further is to consider that a 64 bits address space is (much) larger than any hard disk array in the world. So why constinue to distinguish hard disk storage and RAM memory ? Some experimental “persistent” operating systems handle the whole hard disk as a swap file for a large virtual memory which could contain all the data on your computer, eliminating the need for “files”.

Finally, “large grain” parallelism could be used to distribute work across computers in a network. Some animation rendering and research-oriented screensavers already work that way. Now imagine this combined with a “persistent” OS as mentioned above. Think about a network of multi-core vectorized processors sharing the same address space, each computer using disk stoarge only as a cache between the processor and the network.

This is not sci-fi. It is called a “single address space operating system” (sasos), and several functional prototypes exist. Among them, mentions CAD/CAM explicitely as a potential application. Imagine users of such a package sharing the very same model directly in memory: they will never need to copy any file, to rebuild a part, never load, never check in or check-out. Imagine the improvement in performance when a software doesn’t have to do anything twice…

In the shorter term, Vista will be slower than XP on a single core machine (fact 2). It might be slower on a dual-core. But it should be faster on a quad-core, unless Microsoft bloated it with so many “features” that it leaves only 1 core for applications …

Le Web Sémantique

Fri, 20 Oct 2006 00:00:00 +0000

En faisant des recherches sur un sujet d’intérêt encore top secret, je suis tombé sur le concept intéressant de “web sémantique” et quelques outils s’y rapportant. Ca pourrait bien devenir quelque chose d’important bientôt…

L’objectif du “web sémantique” est de créer un “web des données” dans lequel il serait possible de combiner des données disponibles depuis de multiples sources.

La base du “web sémantique” est le “Resource Description Framework” (RDF), qui décrit des métadonnées par des triplets {sujet, objet prédicat} :

le sujet représente la donnée. C’est par exemple l’URL de cette page
l’objet serait une métadonnée, par exemple “auteur”
le prédicat serait alors la valeur de l’auteur de cette page, par exemple “Ph. Guglielmetti”

Concrètement, un fichier RDF est un fichier XML dont voici un petit exemple:

@@http://en.wikipedia.org/wiki/Category%3ABusiness_schools_in_India">Business_schools_in_IndiaGurubrahma2006-02-12 18:52:04.0@@

C’est un extrait d’un énorme fichier RDF de 3.6 Gigabytes (oui, Gigas!) qui contient la description des millions de pages de la fabuleuse Wikipedia!

Ontologies

Comme on le devine, les tags du format XML dépendent du domaine d’application du fichier RDF : “title” , “contributor” etc sont spécifiques à une encyclopédie en ligne. RDF n’est donc pas un dialecte XML mais un format plus général. Pour décrire les tags RDF spécifiques à un domaine, on doit définir une “ontologie”, terme un peu ampoulé pour décrire en fait un “modèle de données” adapté à la modélisation de connaissances. Il existe même un dialecte XML pour décrire des ontologies : OWL (Ontology Web Language)

Des exemples d’ontologies RDF sont :

(Friend of a Friend), pour modéliser les relations entre personnes (ça serait bien si pouvait exporter sous ce format…)
(Semantically-interlinked Online Communities), pour le partage de contenus de forums
(Description of a project), pour les infos sur les projets de développement OpenSource

Applications

La première application qui vient à l’idée est la représentation de graphes montrant les relations entre les données

Alternatives

Les “Topics Maps” sont une approche similaire, proposant le format XTM

Références

Emulation et Virtualisation

Fri, 15 Sep 2006 00:00:00 +0000

j’avais déjà été sidéré par et d’autres émulateurs, mais je viens d’avoir un très gros choc en utilisant un logiciel de virtualisation :

Emulation

La puissance des ordinateurs doublant tous les 18 mois, il arrive un moment ou il devient possible d’écrire un programme qui simule le fonctionnement d’un ordinateur plus ancien. C’est un “émulateur”. Quelques Exemples:

simule un bon vieux PC sous MS/DOS. DOSBox existe pour Windows, mais aussi Linux, Mac OS X etc, ce qui prouve que non seulement le logiciel, mais aussi le fonctionnement du matériel de la machine d’origine peut être simulé sur un matériel totalement différent.
est un “Muliple Arcade Machine Emulator” permet de retrouver toutes les pompes à fric qui peuplaient les bistrots de ma jeunesse : de “Space Invaders” à “Out Run”, des centaines de microprocesseurs et de puces graphiques et sonores sont simulées sur des PC musclés, mais aussi sur des téléphones portables! Encore une illustration spectaculaire de la Loi de Moore : un téléphone actuel contient un ordinateur plus puissant que le top de la machine multimedia il y a 20 ans!

A part l’aspect ludique et éducatif, les éditeurs de systèmes d’exploitations sont très intéressés à garantir une compatibilité maximale avec leurs systèmes précédents pour conserver leur clientèle. Exemple:

En 1999, Lorsque les “Mac Intosh” sont passés des processeurs Motorola 68040 aux PowerPC, Apple a du intégrer un émulateur à son Mac OS 9 pour permettre à tous les programmes Mac écrits depuis 1984 de fonctionner.
Puis en 2001, Mac OS X a introduit un émulateur “Classic” permettant d’y faire fonctionner des applications Mac OS 9.
En 2006, les Mac vont être équipés de processeurs Intel, et la version correspondante de Mac OS X sera équipée de “Rosetta”, un émulateur PowerPc sur x86.

Avec un peu de chance, on devrait donc bientôt faire voir des programmes Mac de 1984 fonctionner dans un émulateur émulé par un émulateur émulé par un troisième émulateur ! Si vous doutez de la performance du résultat rapellez-vous : un ordinateur actuel est 2^(20*12/18) = 10'000 fois plus puissant que le premier Mac…

les “Machines Virtuelles”

Pour introduire la virtualisation, voyons comment l’arrivée du 80386, le premier processeur 32 bits d’Intel, a transformé le monde du PC en 1985.

Là, Intel était au moins aussi intéressé que Microsoft à ce que les programmes écrits pour ses processeurs 16 bits précédents continuent à fonctionner.

Intel a donc conçu le qui permet au 80386 d’exécuter du code 16 bits à pleine vitesse dans des “machines virtuelles” gérée par un système d’exploitation 32 bits comme Windows 95

Une “machine virtuelle” est “simplement” une zone de la mémoire qui ressemble à la mémoire d’un vieux PC, vue de l’intérieur.

Mais avec l’aide du “gestionnaire de pagination mémoire” existant sur les processeurs modernes, on pose des pièges : dès que le programme fonctionnant dans la machine virtuelle lit ou écrit les adresses mémoire correspondant aux périphériques, la machine réelle s’en aperçoit et effectue l’opération correspondante.

Par exemple, si un programme MS/DOS tournant en “virtuel” essaie d’allumer un point de “son” écran en croyant accéder à une carte VGA, Windows 95 reçoit une interruption, et le code réel (32 bits) détermine la fonction à réaliser, et allume le pixel correspondant dans la fenêtre de la machine virtuelle, puis rend le contrôle au programme “virtuel” qui continue son exécution, inconscient de n’être qu’un pantin manipulé…

En pratique, créer une machine virtuelle revient principalement à écrire des “drivers” pour les périphériques, divisés en 2 moitiés : la partie “virtuelle” singe le comportement du périphérique “vu de l’intérieur”, la partie “réelle” réalise effectivement le fonctionnement du périphérique, mais intégré à un système différent.

Virtualisation

L’arrivée des processeurs 64 bits repose le problème de la virtualisation, mais les processeurs ont anticipé : il est désormais possible de créer des machines virtuelles 32 bits sur des machines réelles 32 bits. Quel intérêt ? Par exemple de faire tourner plusieurs systèmes d’exploitation en même temps sur un ordinateur “hôte”, et c’est ce que fait sur PC

Je n’ai pas encore fait le tour des énormes possibilités de ceci, mais par exemple :

on peut faire tourner un Linux dans une fenêtre Windows
préparer des machines préconfigurées avec des logiciels pour démonstration, formation ou expérimentation. Chaque fois qu’on en a besoin, on utilise une copie “propre” qu’on lance sur un PC et qu’on jette après emploi, sans avoir modifié quoi que ce soit à l’“hôte”
faire tourner plusieurs “serveurs virtuels” sur une machine réelle : si un problème se produit sur une machine virtuelle, les autres continuent à fonctionner et il suffit de relancer une nouvelle copie
configurer un système complexe en combinant des machines virtuelles pré-configurées, chacune réalisant une fonction du système. C’est l’idée des “appliances” dont certaines sont (principalement celles basées sur Linux)

Référence

site spécialisé sur les émulateurs ludiques
site spécialisé sur la virtualisation

( )

CMS, Blogs et Wikis

Sat, 03 Jun 2006 00:00:00 +0000