¿Podemos crear mentes artificiales?

Acabo de regresar de un curso de verano donde hemos tratado distintas cuestiones de ética ambiental. En una mesa redonda en donde se debatía sobre los animales tienen o no derechos y en qué sentido se aplica esta atribución, uno de los ponentes trazaba la línea del objeto moral en todos aquellos seres vivos capaces de sentir, esto es los que tienen el sistema desarrollado suficientemente desarrollado como para experimentar dolor o placer. Según este ponente, los animales sintientes merecen consideración moral y por tanto, en sentido amplio, tienen derecho a recibir un trato similar al que damos a los seres humanos. No voy ahora a comentar esta posición, sino una de las preguntas que se hicieron a continuación de las intervenciones: si los límites de la moral se marcan por la capacidad de sufrir, ¿en el futuro también las máquinas cibernéticas (llámanse robots, androides o replicantes, como más nos guste) tendrán esa capacidad y por tanto serán objeto de consideración moral?

Sinceramente me pareció un tanto grotesca esta posibilidad, y de entrada me pareció un buen ejemplo de lo que los clásicos denominaban argumentos “por reducción al absurdo”: si existe la posibilidad de que una máquina tenga consideración moral (esto es merecedora de deberes éticos por nuestra parte) en caso de que consigamos construir una que sienta dolor o placer, entonces es que hemos puesto la frontera de la moral en una línea equivocada.

No voy a entrar ahora a comentar mi posición sobre la consideración que merecen los animales, sin duda mucho más generosa de lo que hemos mostrado tras la revolución industrial, sino más bien a centrarme sobre qué esperamos que produzca el vertiginoso desarrollo de la tecnología en las próximas décadas: máquinas que hagan todo tipo de labores mecánicas (esto parece muy probable), con inmensa capacidad de análisis de información muy variada (también), con el suficiente conocimiento estructural para traducir fluidamente entre distintos idiomas (casi, casi ya está), con posibilidades  de predicción certera de acontecimientos futuros (caliente, caliente…)… pero ¿seremos capaces de hacer máquinas que realmente piensen, que reflexionen, que se auto-reconozcan, que tengan memorias propias (de su actividad), que sean capaces de experimentar alegría o tristeza?

No sé lo suficiente de tecnología para predecir hasta donde llegará el progreso cibernético, pero se me hace muy poco probable y, sobre todo, muy poco deseable que lleguemos a crear seres humanos sintéticos. Al igual que aplicamos el principio de precaución para tomar con mucha cautela los avances de la tecnología en la solución de los problemas energéticos (energía nuclear), alimenticios (transgénicos), médicos (clonación humana, investigación con embriones…), me parece muy relevante que reflexionemos sobre el tipo de mundo que se crearía si esa dirección de desarrollo llegara a consolidarse. No me parece un buen camino para hacer más felices las sociedades que vivimos, siguen sin arreglar –quizá los enturbien mucho más- los más acuciantes problemas humanos.  Esa búsqueda del superhombre tecnológico tiene un cierto tufillo de ideología eugenésica de inicios del s. XX, de tan nefasta memoria. Los seres humanos aunque tenemos capacidades inmensas somos limitados, y es bueno que lo seamos porque eso nos ayuda a ser dependientes, relacionales: sin “los demás”, no habríamos llegado muy lejos.

La tecnología, a mi modo de ver, sirve a las necesidades humanas, pero no es un fin. La revolución ambiental que tantos pensadores preconizan pasa por volver a nuestras raíces más profundas, que son naturales, y el equilibrio ecológico pasa, como la propia raíz del término indica, por cuida nuestra propia casa, por respetar la ecología humana, por escuchar a nuestra propia naturaleza. Me parece que estamos otra vez intentando jugar al "seréis como dioses", tan antiguo como la propia humanidad, alterando lo que naturalmente hemos recibido, asumiendo que somos capaces de hacer un mejor diseño que el del mismo Creador