Por más complicada que sea la máquina que construyamos, se corresponderá, si es una máquina, con un sistema formal, el cual estará expuesto, a su vez, al procedimiento Gödel de hallazgo de una fórmula indemostrable-en-tal-sistema. La máquina será incapaz de producir dicha fórmula como verdadera, en tanto que una mente puede percibir ese carácter. De este modo, la máquina seguirá sin lograr constituirse en un modelo adecuado de la mente. Estamos tratando de producir un modelo de la mente que sea mecánico: es decir, esencialmente «muerto», pero la mente, al ser de hecho «viva», siempre aventajará a cualquier osificado y muerto sistema formal. Gracias al teorema de Gödel, la mente tiene siempre la última palabra.
J. R. Lucas
Gödel, Escher, Bach. Un eterno y grácil bucle, de Douglas R. Hofstadter
Interesante reflexión la realizada por J. R. Lucas en este párrafo, se esté o no de acuerdo con ella. Por cierto, ¿estáis de acuerdo o no? Tema interesante para debatir.
¿Te ha gustado la entrada? Puedes invitarme a un café, Gauss te lo agradecerá 😉
[1] «en tanto que una mente puede percibir ese carácter»
¿Seguro?
Lucas está hablando de Dios, es decir, como no sabe qué es «la mente», hace comparaciones huecas al estilo «muerto / vivo / percibir / carácter» y le atribuye características sin rigurosidad ninguna ([1]).
Vaya, muy al estilo cartesiano.
En tanto en cuanto no sepamos lo que es «la mente» será imposible intentar definir rigurosamente un modelo matemático, no obstante, recomiendo leer a Penrose, pues baraja todas las posibilidades y no pone a «la mente humana» en un pedestal.
En el razonamiento de Lucas hay una pirueta lógica que me parece tan evidente que temo no haberle entendido bien. Así que mejor pregunto: ¿Afirma que los seres humanos podemos asegurar que una afirmación es cierta, más allá de toda duda, aunque no pueda demostrarse formalmente, partiendo ambos (humano, y sistema lógico formal) de los mismos axiomas? Porque si afirma eso, yo no lo veo… y tampoco veo su negación, lo cual, si valgo como ejemplo de humano (me gusta pensar que sí), me sirve de contraejemplo. Y si se refiere a afirmaciones que sabemos que son ciertas, aún sin… Lee más »
Se cruzo mi mensaje con el de josejuan, pero parece que vemos el mismo punto débil en el razonamiento 🙂
También creo lo mismo pero desde luego no por un teorema. Es como si pensamos que los mercados están en equilibrio porque han derivado sus variables.
Como dice Penrose, la mente tiene un componente cuántico que un ordenador nunca podrá emular. De momento.
Estoy de acuerdo con josejuan y con Sive: que los mecanismos que en el nivel más bajo sustentan el funcionamiento sean de naturaleza distinta (mecánica/electrónica – biológica) no quiere decir que haya una esencia particular (un «jugo de la vida» o un «néctar de la inteligencia auténtica») que impida que se pueda crear una máquina que cumpla las características necesarias para ser considerada una «inteligencia». Kurzweil se ha cansado de argumentar contra proposiciones como esta. Desde ya que es poético y muy romántico pensar que «la máquina siempre será inferior a la mente» en tanto está creada por esta, pero… Lee más »
Precisamente, los Teoremas de Incompletitud de Gödel demuestran que no podemos asegurar que ciertos sistemas son completos y consistentes… lo que en realidad sólo demuestra que la lógica con la que trabaja nuestra mente tiene límites concretos. Así que, igual que no se le puede pedir a una calculadora que demuestre un teorema básico, a nosotros por ahora no se nos puede pedir que demostremos (yo qué sé) la Hipótesis de Riemann… para conseguir ciertas cosas, la mente necesita evolucionar: nadie espera de los monos que demuestren que hay infinitos números primos, su cerebro no puede entender esos conceptos… pero… Lee más »
Yo lo que entiendo en ese párrafo es que los seres humanos somos conscientes de nuestras propias limitaciones, algo de lo que una máquina no es capaz, y por eso la mente humana es superior.
Yo estoy de acuerdo.
Información Bitacoras.com…
Valora en Bitacoras.com: Por más complicada que sea la máquina que construyamos, se corresponderá, si es una máquina, con un sistema formal, el cual estará expuesto, a su vez, al procedimiento Gödel de hallazgo de una fórmula indemostrable-en-……
El cerebro no deja de ser una maquina (quimica).
No creo que el hombre pueda contruir una maquina superior (en un sentido cualitativo) a su propio cerebro, pero si igual y con mas capacidad.
roldan y ¿qué me dices de Internet? ¿no es una máquina superior al cerebro humano?
Una sola persona no puede construir un cerebro mejor, pero muchas juntas son en sí mismas algo más… lo mismo que una sola célula no puede hacer una «célula mejor», pero una asociación de ellas puede llevar a formar seres vivos superiores.
hay un libro sobre esto «La nueva mente del emperador»» de Penrose
SaudoS
ZFC también es un sistema mejor(tal vez sería mejor decir «más potente») que la mente humana…. ZFC(o la teoría descriptiva de conjuntos) permite tratar formalmente objetos(conjuntos infinitos) que «intuitivamente» no hay manera de tratar….. Si la mente humana fuera mejor que ZFC entonces ZFC no sería necesaria……Podríamos tratar con conjuntos infinitos sin necesidad de una teoría axiomática….. Y por supuesto: reto a Lucas a percibir que la hipótesis del continuo no es ni verdadera ni falsa en ZFC. Ya puestos si intuimos cuando una proposición es verdadera sin necesidad de prueba, también debe ser posible intuir si es o no… Lee más »
Interesante también, es la solución que se propone en el mismo libro, para desmontar tal argumento. Admitamos que la máquina será un sistema formal. La mente tiene la capacidad para «salirse» de un sistema formal y hacer razonamientos sobre éste, correcto. Cada vez que nos salimos del sistema formal para razonar, podemos añadir un nuevo axioma o regla de inferencia. Ahora bien, la capacidad del cerebro es finita, así que podemos considerar un sistema formal que haga inviable salirse de él, para cualquier persona. Si construirmos una máquina que implemente tal sistema formal, ¿qué diferencia habría con la mente? Puede… Lee más »
Creo que la decidibilidad de tal o cual preposición no es el argumento más concluyente para decidir que «el ser humano no inventará nunca una máquina que supere al cerebro». En principio el señor Lucas debería indicar en qué características dicha máquina debe superar al cerebro. Si es en velocidad, en precisión, y en estar libre de sesgos cognitivos, pues en eso me atrevo a proponer que las computadoras actuales ya superan a la mente humana. Con respecto al siguiente fragmento, que es aparentemente el primer argumento en la cita: «La máquina será incapaz de producir dicha fórmula como verdadera,… Lee más »
David ha dado con la clave. No veo un problema a priori en que una máquina pueda estar programada para saltar de un sistema añadiendo axiomas según necesidad. Claro que no podrá saltar indefinidamente, pero tampoco la mente. mimetist: El teorema de Gödel no dice nada acerca de las limitaciones de la lógica (no de la proposicional, tal vez si se inventa alguna otra que contenga a los naturales…), sino de los sistemas formales que pueden describir lo números naturales. Como estos números son infinitos solo se pueden definir recursivamente, así que el teorema de Gödel lo que dice es… Lee más »
José Luis: Con ningún afán de introducir habitual misticismo y perder el sentido razonable Penrose da una explicación completamente fundamentada de por que la mente no es un algoritmo, primeramente hay un componente cuántico que dota a la mente con un aspecto de no-linealidad en su pensar (ningún algoritmo puede ser caótico) y el mismo Penrose argumenta que no podemos hacer ordenadores con esa componente cuántica por una razón que es mil veces más polémica que lo tratado aquí: por que la conciencia es aquello que propicia el colapso de la función de onda. Entonces aquello que nos impediría hacer… Lee más »
Ramiro:
Ambas razones no lo son, son solo opiniones. Penrose lleva años buscando esa componente cuántica sin encontrarla. Decir que la conciencia es aquello que propicia el colapso de la función de onda es también una opinión. Para empezar el colapso es una interpretación de varias posibles e, incluso si se demostrara que hay tal cosa como el colapso, esta no tiene por qué ser debida a la consciencia, podría muy bien ser simplemente debida a la interacción entre partículas.
btw: querrás decir otra cosa porque tenemos un montón de algoritmos que generan caos.
Desde mi punto de vista de ingeniero informatico interesado en los temas de inteligencia artificial, me gustaria comentar un par de puntos: – Actualmente existen dos caminos muy diferenciados en el desarrollo de la inteligencia artificial, los sistemas logicos, basados en el simbolismo, que, como bien dice nuestro amigo J.R. Lucas, siempre tendran las limitaciones de completitud,incluso aplicando logicas no clasicas (logicas modales, por ejemplo). La segunda aproximacion, completamente diferente, es la aproximacion por redes neuronales. Esta aproximacion es completamente caotica y suele generar resultados imprevisibles, dado que unicamente conlleva el reconocimiento de patrones, a cualquier nivel, pero dificilmente desarrollables… Lee más »
Supongo que sabeis que Godel pensaba igual Lucas no? Es posible que Godel se equivocara en la interpretación de su propio teorema?
José Luis: Tienes razón, tengo que ceder en ese sentido todo lo que se dice no es más que pura especulación , y creo que en efecto todo se reduce a mostrar algo concreto. A mi me gusta mucho la obra de Penrose y creo que lo que expone en sus libros es de mucho valor, y de nuevo cayendo en especulaciones a mi no se me hace razonable que se pueda emular de algún modo el cerebro humano por un lado están los argumentos de Penrose sobre que muchos de los grandes misterios (cómo el enigma de la medida)… Lee más »
Realmente muy interesante! Personalmente, me sorprende que aún nos preguntemos si podremos inventar cerebros que nos superen. Para mí, claro que sí! No encuentro ninguna razón para que no sea así. ¿Argumentos cuánticos? Toda la materia tiene características cuánticas. ¿Cómo vamos a hacer algo más inteligente que nosotros? Hemos hecho máquinas más altas, más pesadas, más fuertes, más rápidas…todo llega. Yo creo que la superioridad del cerebro es una cuestión de cantidad: la cantidad de elementos activos y sus conexiones, eso es lo que está fuera de nuestras posibilidades aún. mimetist: cuánta razón, internet es un organismo del que nosotros… Lee más »
A ver: «sistemas formales» que describan cosas que la mente humana(piensese en la mecánica cuántica por ejemplo) ya no puede comprender o máquinas que calculen cosas a mayor velocidad que nosotros ya hay… otra cosa es construir algo que alcance nuestra eficiencia energética y nuestra adaptación al entorno…. por ahora quítale el interruptor a una máquina o que se quede sin fábrica de baterías….. No hay nada ni medianamente parecido en ningún lado a la capacidad de adaptación de los seres humanos a cualquier entorno sobre la tierra….. Son 2000 millones de años evolución(en constante competencia por la supervivencia)…. Imitar… Lee más »
Buenas tardes Lucas se equivoca, voy a intentar explicar por qué. La máquina está sumergida en un sistema formal (que contiene la aritmética); así pues está bajo la espada de Godel, correcto. La máquina no podrá DEMOSTRAR alguna proposición pero sí podrá SABER QUE DICHA PROPOSICIÓN ES CIERTA. El mismo teorema de Godel es constructivo, de modo que construye una frase CIERTA pero INDEMOSTRABLE. Lucas confunde (como tantos otros) la verosimilitud con la demostrabilidad. Precisamente Godel demostró que VERDAD y DEMOSTRABILIDAD son dos cosas diferentes. Imaginemos que la máquina tropieza con una sentencia indemostrable, sin saber si es o no… Lee más »
Cojo culo lol
Conviene saber lo que dice para entender lo que no dice. Esto último es especialmente importante porque se han querido extrapolar conclusiones que no se siguen. He aquí un par de ejemplos. 1. El teorema de Gödel no dice nada acerca de la superioridad de la mente humana respecto a la posible inteligencia artificial. Quien afirma lo contrario (el propio Gödel parece que iba por ahí) parte de la observación de que un sistema formal lo suficientemente potente es por fuerza incompleto. Se puede proponer un sistema formal superior, que incluya como axiomas las verdades no demostrables dentro del primero,… Lee más »