Les risques-s sont une catégorie spécifique de risque existentiel où la réalisation du risque n’est pas la destruction de l’existence du groupe de sujets concernés mais leur souffrance indéfinie.

Les travaux antérieurs ont pour la plupart considéré que le pire scénario était la possibilité d’une extinction de l’humanité […]. Cependant, on pense souvent que pour un individu, il existe des « destins pires que la mort ». De même, pour les civilisations, il peut y avoir des destins pires que l’extinction, comme la survie dans des conditions de vie difficiles dans lesquelles la plupart des gens connaîtront d’énormes souffrances pendant la majeure partie de leur vie.

Même si des résultats aussi extrêmes peuvent être évités, il est possible que l’univers connu finisse par être peuplé d’un grand nombre d’être humains : les estimations publiées font état de la possibilité de 10^25 esprits soutenus par une seule étoile (Bostrom 2003a), l’humanité ayant le potentiel de coloniser des dizaines de millions de galaxies (Armstrong & Sandberg 2013). Bien que cela puisse permettre un énorme nombre de vies emplies de sens, si une fraction, même infime, de ces vies devait se dérouler dans des circonstances infernales, la quantité de souffrance serait bien plus grande que celle produite par toutes les atrocités, tous les abus et toutes les causes naturelles sur Terre jusqu’à présent.

Nous qualifions la possibilité de tels résultats de risque de souffrance :

Risque de souffrance (risque-s) : Risque pour lequel une issue défavorable adverse entraînerait de graves souffrances à une échelle astronomique, dépassant largement toutes les
souffrance qui a existé sur Terre jusqu’à présent.

Pour que les risques potentiels – y compris les risques s – méritent d’être étudiés, trois conditions doivent être remplies. Premièrement, l’issue du risque doit être suffisamment grave pour mériter l’attention. Deuxièmement, le risque doit avoir une probabilité raisonnable de se réaliser. Troisièmement, il doit exister un moyen d’éviter le risque pour réduire
la probabilité ou la gravité d’un résultat négatif.

[…] nous soutiendrons que les risques liés à la souffrance infinie répondent à ces trois critères et que le travail d’évitement du risques-s est donc d’une d’une importance comparable à celle des travaux sur les risques d’extinction (risques-x).

Sotala K. et Gloor L., Superintelligence as a Cause or Cure for Risks of Astronomical Suffering, Informatica, 41, 2017, pp. 389-400.