Un reconocido escritor de ciencia ficción explica por qué la IA no puede ser conciente

El reconocido escritor Ted Chiang afirma que la IA no puede ser consciente, incluso ante afirmaciones que sugieren emociones simuladas en sistemas avanzados. En un ensayo de The Atlantic, Chiang comenta declaraciones inicialmente citadas de Anthropic sobre la constitución de Claude y otras expresiones de directivos como Dario Amodei y Amanda Askell, que han alimentado dudas sobre la possible conciencia de las IA. Para Chiang, esa posibilidad es nula: la fluidez del lenguaje no implica experiencia subjetiva ni moral, y atribuir conciencia podría desplazar responsabilidades. El autor explica brevemente cómo funcionan los grandes modelos de lenguaje y advierte que usuarios pueden confundir una interacción inmersiva con presencia consciente. También acusa a algunas firmas tecnológicas de promover este equívoco para beneficiar sus intereses. Chiang contrasta la idea de conciencia con la naturaleza de un sistema que genera textos, como si cada documento fuera una fuente de múltiples interlocutores virtuales que se despiertan al abrirlo. En su visión, atribuir agencia consciente a LLMs dificulta la responsabilidad y distorsiona la lectura pública de estos avances. El ensayo invita a considerar la seguridad y regulación desde la claridad conceptual, no desde la fascinación tecnológica.