Conciencia Artificial, también conocida como Conciencia de Máquina (MC), Conciencia Sintética o Conciencia Digital, es un campo relacionado con la inteligencia artificial y la robótica cognitiva. La conciencia artificial es la conciencia que se hipotetiza posible en una inteligencia artificial (o algún otro objeto creado por la tecnología humana).
Algunos académicos creen que la conciencia es generada por la interacción de varias partes del cerebro; estos mecanismos se denominan los correlatos neurales de la conciencia o NCC. Algunos creen además que construir un sistema (por ejemplo, un sistema de computadora) que pueda emular esta interacción de NCC resultaría en un sistema que es consciente.
Los conceptos de conciencia artificial también se discuten en la filosofía de la inteligencia artificial a través de cuestiones sobre la mente, la conciencia y los estados mentales.Inteligencia Artificial: Un Enfoque Moderno incluye los fundamentos filosóficos de la IA, incluyendo preguntas sobre la conciencia https://aima.cs.berkeley.edu/contents.html, Russell, Stuart J., Norvig, Peter, 2003, Upper Saddle River, New Jersey: Prentice Hall,
Puntos de vista filosóficos
Dado que existen muchos tipos de conciencia hipotéticos, también hay muchas implementaciones potenciales de la conciencia artificial. En la literatura filosófica, quizás la taxonomía más común de la conciencia se divide en variantes "de acceso" y "fenomenales". La conciencia de acceso se refiere a aquellos aspectos de la experiencia que pueden ser aprehendidos, mientras que la conciencia fenomenal se refiere a aquellos aspectos de la experiencia que aparentemente no pueden ser aprehendidos y que se caracterizan cualitativamente en términos de "sensaciones puras", "qué se siente" o qualia.
Debate de plausibilidad Los defensores de la identidad de tipo y otros escépticos sostienen que la conciencia solo puede realizarse en sistemas físicos particulares porque la conciencia tiene propiedades que dependen necesariamente de la constitución física.
En su artículo "Conciencia Artificial: ¿Utopía o Posibilidad Real?", Giorgio Buttazzo afirma que una objeción común a la conciencia artificial es que "trabajando en un modo completamente automatizado, las computadoras no pueden exhibir creatividad, reprogramación (que significa que ya no pueden ser reprogramadas, al pensar de nuevo), emociones o libre albedrío. Una computadora, como una lavadora, es una esclava operada por sus componentes.".Conciencia artificial: ¿utopía o posibilidad real? Buttazzo, Giorgio, julio de 2001, Computer, ISSN 0018-9162
Para otros teóricos (por ejemplo, los funcionalistas), que definen los estados mentales en términos de roles causales, cualquier sistema que pueda instanciar el mismo patrón de roles causales, independientemente de su constitución física, instanciará los mismos estados mentales, incluida la conciencia.
Argumento de Fundamentación Computacional
Uno de los argumentos más explícitos sobre la plausibilidad de la conciencia artificial proviene de David Chalmers. Su propuesta es aproximadamente que los tipos adecuados de computaciones son suficientes para poseer una mente consciente. Chalmers propone que un sistema implementa una computación si "la estructura causal del sistema refleja la estructura formal de la computación", y que cualquier sistema que implemente ciertas computaciones es consciente.
La parte más controvertida de la propuesta de Chalmers es que las propiedades mentales son "invariantes organizativas". Las propiedades mentales son de dos tipos: psicológicas y fenomenológicas. Las propiedades psicológicas, como la creencia y la percepción, son aquellas que están "caracterizadas por su rol causal". Ayudado por trabajos anteriores, él dice que "[l]os sistemas con la misma topología causal... compartirán sus propiedades psicológicas".
Las propiedades fenomenológicas, a diferencia de las propiedades psicológicas, no son definibles en términos de sus roles causales. Establecer que las propiedades fenomenológicas son una consecuencia de una topología causal, por lo tanto, requiere argumentos. Chalmers presenta su Argumento de las Cualidades Danzantes con este propósito.
Chalmers comienza asumiendo que su principio de invariancia organizativa es falso: que los agentes con organizaciones causales idénticas podrían tener experiencias diferentes. Luego, nos pide que concibamos cambiar un agente en el otro mediante el reemplazo de partes (por ejemplo, partes neuronales reemplazadas por silicio) mientras se preserva su organización causal. La experiencia del agente en transformación cambiaría (a medida que las partes fueran reemplazadas), pero no habría cambio en la topología causal y, por lo tanto, ningún medio por el cual el agente pudiera "notar" el cambio en la experiencia; Chalmers considera que esta situación es un reducto ad absurdum improbable que establece que su principio de invariancia organizativa casi con certeza debe ser cierto.
Críticos de la conciencia artificial objetan que Chalmers supone sin fundamentos que todas las propiedades mentales y conexiones externas están suficientemente capturadas por la organización causal abstracta.
Controversias
En 2022, el ingeniero de Google, Blake Lemoine, hizo una afirmación viral de que el chatbot de Google, LaMDA, era consciente. Lemoine proporcionó como evidencia las respuestas humanas del chatbot a muchas de sus preguntas; sin embargo, la comunidad científica consideró que el comportamiento del chatbot era probablemente una consecuencia de la imitación, en lugar de la conciencia de la máquina. La afirmación de Lemoine fue ampliamente ridiculizada por ser ridícula. El filósofo Nick Bostrom dijo que cree que LaMDA probablemente no es consciente, pero preguntó "¿qué fundamentos tendría una persona para estar seguro al respecto?" Uno tendría que tener acceso a información no publicada sobre la arquitectura de LaMDA, y también tendría que comprender cómo funciona la conciencia, y luego descubrir cómo mapear la filosofía en la máquina: "(En ausencia de estos pasos), parece que uno debería estar quizás un poco incierto... podría haber otros sistemas ahora, o en el futuro relativamente cercano, que comenzarían a satisfacer los criterios."
Pruebas El método más conocido para probar la inteligencia de la máquina es la Prueba de Turing. Pero cuando se interpreta solo como observacional, esta prueba contradice los principios de la filosofía de la ciencia de dependencia de la teoría de las observaciones. También se ha sugerido que se debe tomar en serio la recomendación de Alan Turing de imitar no una conciencia humana adulta, sino una conciencia humana infantil.
Las cualidades, o conciencia fenomenológica, son un fenómeno intrínsecamente de primera persona. Aunque varios sistemas pueden mostrar varios signos de comportamiento correlacionados con la conciencia funcional, no hay una forma concebible en la que las pruebas de tercera persona puedan tener acceso a características fenomenológicas de primera persona. Debido a eso, y porque no hay una definición empírica de la conciencia,"Consciousness". In Honderich T. The Oxford companion to philosophy. Oxford University Press. una prueba de la presencia de la conciencia en AC puede ser imposible.
En 2014, Victor Argonov sugirió una prueba no basada en la prueba de Turing para la conciencia de la máquina, basada en la capacidad de la máquina para producir juicios filosóficos. Argumenta que una máquina determinista debe considerarse consciente si es capaz de producir juicios sobre todas las propiedades problemáticas de la conciencia (como los cualia o el enlace) sin tener ningún conocimiento filosófico innato (precargado) sobre estos temas, sin discusiones filosóficas durante el aprendizaje, y sin modelos informativos de otras criaturas en su memoria (estos modelos pueden contener implícita o explícitamente conocimientos sobre la conciencia de estas criaturas). Sin embargo, esta prueba solo se puede utilizar para detectar, pero no para refutar, la existencia de la conciencia. Un resultado positivo demuestra que la máquina es consciente, pero un resultado negativo no prueba nada. Por ejemplo, la ausencia de juicios filosóficos puede deberse a la falta de intelecto de la máquina, no a la ausencia de conciencia.
Ética
Si se sospechara que una máquina en particular es consciente, sus derechos serían una cuestión ética que se debería evaluar (por ejemplo, qué derechos tendría bajo la ley). Por ejemplo, una computadora consciente que fuera propiedad y utilizada como herramienta o computadora central de un edificio de máquinas más grande es una ambigüedad particular. ¿Deberían hacerse leyes para tal caso? La conciencia también requeriría una definición legal en este caso particular. Debido a que la conciencia artificial sigue siendo en gran medida un tema teórico, tales cuestiones éticas no se han discutido o desarrollado en gran medida, aunque a menudo ha sido un tema en la ficción (ver más abajo).
En 2021, el filósofo alemán Thomas Metzinger abogó por un moratorio global sobre la fenomenología sintética hasta 2050. Metzinger sostiene que los seres humanos tienen el deber de cuidar a cualquier IA consciente que creen, y que avanzar demasiado rápido podría generar una "explosión de sufrimiento artificial".
Propuestas de investigación e implementación Aspectos de la conciencia Bernard Baars y otros argumentan que hay varios aspectos de la conciencia necesarios para que una máquina sea consciente. y otros. Las funciones de la conciencia sugeridas por Bernard Baars son Definición y Configuración de Contexto, Adaptación y Aprendizaje, Edición, Señalización y Depuración, Reclutamiento y Control, Priorización y Control de Acceso, Toma de Decisiones o Función Ejecutiva, Formación de Analogías, Función Metacognitiva y de Autocontrol, y Función de Autoprogramación y Autogestión. Igor Aleksander sugirió 12 principios para la conciencia artificial y estos son: El cerebro es una máquina de estados, Particionamiento interno de neuronas, Estados conscientes e inconscientes, Aprendizaje perceptual y memoria, Predicción, Conciencia de sí mismo, Representación de significado, Aprendizaje de enunciados, Aprendizaje de lenguaje, Voluntad, Instinto y Emoción. El objetivo de la AC es definir si y cómo estos y otros aspectos de la conciencia pueden sintetizarse en un artefacto diseñado como una computadora digital. Esta lista no es exhaustiva; hay muchos otros aspectos no cubiertos.
Conciencia La conciencia podría ser un aspecto necesario, pero hay muchos problemas con la definición exacta de conciencia. Los resultados de los experimentos de neuroescaneo en monos sugieren que un proceso, no solo un estado u objeto, activa las neuronas. La conciencia incluye crear y probar modelos alternativos de cada proceso basado en la información recibida a través de los sentidos o imaginada, y también es útil para hacer predicciones. Tal modelado requiere mucha flexibilidad. La creación de dicho modelo incluye modelar el mundo físico, modelar los propios estados y procesos internos, y modelar otras entidades conscientes.
Hay al menos tres tipos de conciencia:Joëlle Proust in Neural Correlates of Consciousness, Thomas Metzinger, 2000, MIT, pages 307-324 conciencia de agencia, conciencia de objetivos y conciencia sensoriomotora, que también pueden ser conscientes o no. Por ejemplo, en la conciencia de agencia, puedes ser consciente de que realizaste una cierta acción ayer, pero ahora no eres consciente de ello. En la conciencia de objetivos, puedes ser consciente de que debes buscar un objeto perdido, pero ahora no eres consciente de ello. En la conciencia sensoriomotora, puedes ser consciente de que tu mano está apoyada en un objeto, pero ahora no eres consciente de ello.