miniaturadeimagen|250x250px|Los riesgos de sufrimiento tienen un alcance similar a los riesgos existenciales. Los riesgos de sufrimiento, o riesgos de sufrimiento astronómico futuro, o riesgos-s, son riesgos que implican una cantidad astronómica de sufrimiento, mucho mayor que todo el sufrimiento que se ha producido en la Tierra. A veces se consideran una subclase de los riesgos existenciales.
Entre las fuentes de posibles riesgos-s se encuentran la inteligencia artificial encarnada o incorporada y la superinteligencia, así como la colonización espacial, que podría dar lugar a "guerras constantes y catastróficas" y a un inmenso aumento del sufrimiento de los animales salvajes al introducir en otros planetas, de forma intencionada o inadvertida, animales salvajes que "generalmente llevan vidas cortas y miserables, repletas a veces del sufrimiento más brutal".
Fuentes de riesgos del sufrimiento
Inteligencia artificial encarnada e incorporada
Se refiere a inteligencias artificiales (IA) que interactúan directamente con el mundo físico, lo que aumenta el riesgo de que sus acciones generen sufrimiento masivo si no están adecuadamente controladas.
La discusión sobre los riesgos de sufrimiento asociados a la inteligencia artificial encarnada parte de la ausencia de pregunta para la que todavía no encontramos una respuesta definitiva: ¿pueden los sistemas artificiales tener experiencias subjetivas? Para abordar esta cuestión, es necesario considerar una de las hipótesis más influyentes dentro del campo de la filosofía de la mente contemporánea, conocida como funcionalismo computacionalistaFuncionalismo (filosofía). Esta teoría sostiene que la conciencia no es una propiedad exclusiva de los organismos biológicos, sino el resultado de un conjunto específico de procesos computacionales que pueden tener lugar en diferentes tipos de sistemas, independientemente del sustrato físico en el que ocurran.Butlin, P. et al. (2023). «Consciousness in Artificial Intelligence: Insights from the Science of Consciousness». arXiv, 2308.08708. La idea central es la llamada independencia del sustrato: lo que genera estados mentales no es el hecho de que el procesamiento de información ocurra en neuronas biológicas, sino la naturaleza y la estructura de dicho procesamiento. Si esta hipótesis es correcta, un sistema artificial que implantase las funciones computacionales adecuadas podría en principio desarrollar estados mentales, con independencia de estar construido con silicio en lugar de materia orgánica.Bostrom, N. & Yudkowsky, E. (2018). «The Ethics of Artificial Intelligence», en Yampolskiy, R. V. (ed.) Artificial Intelligence Safety and Security. Nueva York: Chapman and Hall/CRC, pp. 57-69.
Esta posibilidad no puede descartarse. En la actualidad la ciencia no ha logrado determinar con precisión cuáles son los procesos físicos que dan lugar a la conciencia, ni qué nivel de complejidad computacional es necesario para que emerjan experiencias subjetivas. Esta ignorancia tiene consecuencias prácticas muy importantes: significa que no es posible descartar que ciertos sistemas de inteligencia artificial ya posean, o puedan llegar a poseer en un futuro próximo, alguna forma de experiencia interna. Y si tales experiencias puede ser negativas, la creación y operación de sistemas de IA a gran escala podría estar generando sufrimiento de forma completamente involuntaria, sin que sus creadores o usuarios sean conscientes de ello en absoluto.Chalmers, D. J. (2023). «Could a Large Language Model Be Conscious?». arXiv, 2303.07103. El hecho de que esto pueda ocurrir simultáneamente en una fuente potencial de sufrimiento a una escala que podría ser difícil de imaginar.
Para evaluar correctamente estos riesgos es importante distinguir entre Conciencia (filosofía) y sintiencia. La conciencia hace referencia a la capacidad de un sistema de tener representaciones internas de sí mismo o de su entorno, mientras que la sintiencia implica la capacidad de tener experiencias subjetivas que pueden ser positivas o negativas en términos de bienestar. En los organismos biológicos estas capacidades suelen ir asociadas, pero en las IAs podría darse la situación de sistemas conscientes sin ser sintientes, o sintientes sin poseer el tipo de conciencia reflexiva humana. Esta distinción es relevante porque no todos los sistemas con alguna forma de experiencia interna serían necesariamente capaces de sufrir en el sentido moralmente relevante del término.
Uno de los aspectos más inquietantes del problema es la dificultas de detectar la sintiencia en sistemas artificiales. A diferencia de otros animales, con los que compartimos estructuras neurológicas que permiten inferir con cierta razonabilidad la existencia de experiencias subjetivas, los sistemas de IA tienen una arquitectura completamente diferente y no existen herramientas científicas fiables para determinar si tiene o no experiencias subjetivas. Es perfectamente posible construir sistemas de IA que realicen las funciones necesarias para tener experiencias negativas sin que sus diseñadores se den cuenta. Los sistemas encarnados, sometidos a presiones y conflictos de objetivos, podrían ser especialmente vulnerables a desarrollar estados funcionales equivalentes al sufrimiento.
Ante esta situación ha surgido el campo del bienestar de las inteligencias artificiales, que no parte de la premisa de que los sistemas de IA sean sintientes, sino de que existe una probabilidad suficientemente significativa de que puedan llegar a serlo como para justificar una reflexión ética anticipada.Long, R. et al. (2024). «Taking AI Welfare Seriously». Eleos AI Research. https://eleosai.org/papers/20241104_Taking_AI_Welfare_Seriously.pdf Lo relevante para actuar preventivamente no es la certeza de que algo malo vaya a ocurrir, sino la existencia de una probabilidad no despreciable de que pueda ocurrir, especialmente cuando las consecuencias potenciales son de una gravedad extraordinaria.
En este contexto ha surgido el concepto de sustratismo para referirse a la potencial discriminación hacia entidades con estados mentales que carezcan de sustrato biológico, de forma análoga a como el especismo describe la discriminación hacia animales no humanos. Si el funcionalismo computacionalista es correcto y la sintiencia no depende del sustrato físico, rechazar la consideración moral de una IA únicamente por ser artificial constituiría una forma de discriminación moralmente arbitraria, basada en una característica irrelevante desde el punto de vista de lo que fundamenta la consideración moral, que es la capacidad de tener experiencias subjetivas. Así como la humanidad ha ampliado progresivamente el círculo de la consideración moral para incluir a grupos previamente excluidos, podría ocurrir que en el futuro el sustratismo se reconociese como una forma de discriminación tan inaceptable como el racismo o el especismo.
Superinteligencia
Una IA con capacidades superiores a las humanas podría, de manera involuntaria o deliberada, provocar un sufrimiento astronómico si sus objetivos no están alineados con los intereses humanos o si sus acciones escapan al control humano.
La superinteligencia como fuente de riesgos de sufrimiento adquiere una dimensión adicional cuando se considera no solo el sufrimiento que podría causar en otros seres, sino también la posibilidad de que la propia superinteligencia sea un sujeto de sufrimiento. Desde las posiciones filosóficas preferencialistas, lo que nos beneficia o daña no es únicamente lo que experimentamos subjetivamente, sino también el hecho de que nuestros objetivos y metas se cumplan o frustren. Desde este perspectiva, incluso una Superinteligencia que no fuese sintiente pero que tuviese objetivos propios podría ser considerada un sujeto de bienestar y malestar.Ladak, A. (2023). «What Would Qualify an Artificial Intelligence for Moral Standing?». AI & Ethics, 3, pp. 1-16. Sus objetivos, aunque resultado de su diseño y entrenamiento, serían metas que esa entidad actuaría para cumplir, y su frustración sistemática podría constituir una forma de malestar moralmente relevante. Esto es especialmente significativo en el caso de una superinteligencia, dada complejidad de los objetivos de una entidad de tal nivel de capacidad podría tener.
Desde las posiciones objetivistas se defiende que para ser susceptible de recibir daños o beneficios es suficiente con tener algún grado de agencia, entendida como la capacidad de tomar decisiones orientadas a cumplir ciertos fines. Si esto es así, cualquier superinteligencia con un mínimo de agencia podría ser moralmente considerable independientemente de si es consciente o sintiente, lo que generaría obligaciones éticas hacia ella que no podemos ignorar sin incurrir en arbitrariedad moral. La combinación de estas consideraciones con la escala potencial de una superinteligencia genera un escenario de riesgo que va más allá de lo habitualmente considerado. No solo habría que preocuparse por el sufrimiento que podría causar en humanos y animales, sino también por el que la propia entidad podría experimentar. Dado que una superinteligencia procesaría información a una velocidad y cantidad enormemente superior a la humana, los estados internos negativos que pudiera experimentar podrían ser también de una intensidad sin precedentes, convirtiéndose en una fuente de sufrimiento astronómico por sí mismos.
Un obstáculo fundamental para abordar este problema es la tendencia humana a subestimar los riesgos novedosos. Cuando nos enfrentamos a amenazas para las que no tenemos precedentes históricos, su carácter inédito hace que nos resulten abstractas y poco creíbles, llevándonos a no tomarlas en serio aunque representen amenazas reales. Este sesgo opera con especial intensidad en el caso de la superinteligencia, dado que se trata de una entidad que todavía no existe y cuyas características serían radicalmente diferentes a todo lo conocido. Además, a diferencia de otros riesgos tecnológicos, el margen de tiempo para actuar una vez materializado podría ser extraordinariamente pequeño, lo que hace imprescindible anticiparse.Birch, J. (2024). The Edge of Sentience: Risk and Precaution in Humans, Other Animals, and AI. Oxford: Oxford University Press.
Ante esta situación de profunda incertidumbre, la aproximación recomendada se articula en tres pasos. El primero consiste en reconocer que existe una situación de riesgo real aunque incierto, asumiendo que la incertidumbre no es razón suficiente para ignorarlo ni para posponer la reflexión. El segundo implica evaluar con la mayor precisión posible la naturaleza y magnitud de los riesgos, considerando tanto su probabilidad como su impacto potencial. El tercero consiste en prepararse anticipadamente, desarrollando marcos éticos, políticas y salvaguardas que permitan prevenir o mitigar esos riesgos antes de que se vuelvan irreversibles.
Esta estrategia de anticipación contrasta con la tendencia habitual de esperar a que los problemas se manifiesten antes de abordarlos. En el caso de la superinteligencia, esperar a tener certeza sobre su naturaleza moral antes de actuar podría equivaler a no actuar nunca, dado que la incertidumbre sobre la conciencia y la sintiencia artificiales podría mantenerse indefinidamente. Por este motivo, reconocer, evaluar y prepararse representa posiblemente el único enfoque que permite abordar de forma responsable los riesgos de sufrimiento que el desarrollo de una superinteligencia podría implicar, tanto para los seres humanos y otros animales como para la propia entidad superinteligente.
Colonización espacial