La solidité dans la gestion de l'incertitude liée au risque

Ne trouvez-vous pas que les événements qui ont « une chance sur un million » de se produire arrivent un peu trop souvent ? Cela provient des limites de nos modèles d’évaluation des risques, en particulier pour ce qui touche aux événements peu probables à forte répercussion, comme l’accident de la centrale nucléaire de Fukushima. Anders Sandberg estime que la faute revient pour partie à la biologie de notre cerveau. Notre évolution ne nous a pas bien armés pour ce type d’analyse, si bien que notre logiciel fonctionne mal, nos plans sont imparfaits et nos modélisations des risques régulièrement prises en défaut par des successions d’événements cataclysmiques.
Bien souvent, la probabilité que le modèle soit erroné est bien supérieure à celle qu’un risque se réalise. Pour faire face à ce sérieux rappel à la réalité et aider les décideurs à utiliser des scénarios de risque plus solides, A. Sandberg cherche comment concevoir un raisonnement qui « admette les erreurs » : des modèles à redondance intégrée, faisant appel à des groupes concurrents pour améliorer la fiabilité et réduire l’effet de nos biais. Cette stratégie n’empêchera certes pas les événements rarissimes de se produire, mais elle nous permettra au moins d’y être mieux préparés.
Je concentre mes recherches sur l’amélioration des méthodes d’analyse des risques lorsque les données sont rares et les modèles incertains. Il s’agit notamment de renforcer les raisonnements en matière de risque quand le modèle, les calculs et les arguments sont probablement erronés. Du fait de biais cognitifs humains et de limites de rationalité, ces raisonnements sont souvent faussés, ce qui entraîne de mauvais choix. Néanmoins, certaines méthodes allant de la théorie de la fiabilité au concept d’« équipe rouge » issu de la sécurité et des jeux sont susceptibles d’asseoir la fiabilité de l’évaluation du risque et d’atténuer les biais cognitifs.