IDNI Blog

  • El arte de la autorreferencia

    Ohad Asor Publicado el 27 de mayo de 2018, a las 5:09 AM

    Esta publicación, como las dos anteriores, arroja luz sobre los mismos temas. La publicación "La nueva Tau" pasó de TML a Agoras y se centró en escalar las discusiones. El post "De Agoras a TML" fue al revés, y se centró en la economía del conocimiento. Aquí abordamos el tema enfatizando en la autodefinición.

    Nuestro principal ejemplo aquí será de legislación. Considere un parlamento que crea y cambia leyes. Supongamos que el parlamento está interesado en cambiar una ley existente. Bueno, en un mundo normal, no pueden ir y cambiar la ley, ya que debería haber leyes para cambiar las leyes. Distinguiendo entre leyes y leyes para cambiar las leyes, nos referimos a las primeras como "leyes de primer orden" y, a estas últimas, como "leyes de segundo orden". Una ley de tercer orden sería una ley que se refiere a las leyes de segundo orden (y posiblemente de primer orden también).

    Como se puede observar, necesitaremos infinitos órdenes de leyes, por lo tanto, infinitas leyes. De este modo se deja la ley completamente desprotegida: si no hay leyes para cambiar las leyes (leyes de segundo orden), entonces no hay absolutamente nada que impida que se puedan cambiar las leyes de primer orden. Y eso no es suficiente: si alguna ley de segundo orden está impidiendo algún cambio en la ley, también podemos cambiar esa ley de segundo orden, siempre que no tengamos una ley de tercer orden que lo impida.

    ¿Entonces de acuerdo con este enfoque, para tener algún tipo de protección contra el cambio arbitrario de la ley, es necesario tener infinitas leyes. En términos técnicos, significa que ninguna lógica de orden superior sería suficiente, ya que cualquier orden de fórmula seguirá siendo finito, y el orden máximo de una fórmula corresponderá con el orden máximo de una ley, que luego estaría completamente desprotegida frente a la modificación, como se ha comentado anteriormente. Esto muestra cómo cualquier prueba para resolver éste problema usando lógica de alto orden o teoría de tipos está condenada al fracaso, a menos que incorporen el siguiente remedio.

    El remedio consiste en considerar reglas recursivas. Las reglas de orden infinito, como se muestra, son una necesidad de la vida cotidiana. Considere la ley: "todas las leyes pueden cambiarse solo por mayoría de votos, incluida esta ley". ¿Cuál sería el orden de esta ley? Si dices que el orden es N, entonces se puede decir que es de orden N + 1 realmente, porque se refiere a sí misma, y una ley que se refiere a un orden N es por definición de orden al menos N + 1. Entonces, el orden de esta ley es realmente infinito o indefinido. Se refiere a sí mismo y crea un "bucle lógico infinito".

    El lector puede estar familiarizado con las declaraciones autorreferenciales en forma de paradojas, como la paradoja del mentiroso, que simplemente dice: "esta afirmación es falsa". Las definiciones autorreferenciales pueden no solo ser contradictorias, sino también no tener sentido: "las cosas de color verde son aquellas que tienen color verde", define "cosas de color verde", pero en una definición circular que no nos proporciona ninguna información. Sin embargo, nuestra ley de ejemplo "todas las leyes solo pueden cambiarse por mayoría de votos, incluida esta ley" tiene un sentido perfecto. Se refiere a sí misma, pero no hay problema con eso, aún podemos entender y cumplir esta ley. Sería ridículo rechazar esta ley simplemente porque no podemos atribuirle ningún orden finito en el sentido de una lógica de alto orden.

    Las definiciones por autorreferencia aparecen con mucha frecuencia. Podemos definir un número X por "X es el número tal que X = 4X-6". Se define X por sí mismo, pero es una forma perfectamente válida de decir X = 2. En la programación, se trata de funciones recursivas, funciones que se autodenominan, directa o indirectamente. Sin embargo, la programación ingenua de esta definición fallaría inmediatamente:

    "función que_es_x(): devuleve 4*que_es_x() - 6"

    Esta función se ejecutará para siempre y no admitirá nuestro sentido común que nos dice que X = 4X-6 es una definición finita válida simple.

    Entonces, realmente debemos ser capaces de definir las cosas en términos de sí mismos, y podemos ver cómo la programación común y los paradigmas lógicos no lo hacen.

    La familia de lógicas que incorporan la autorreferencia como lengua primitiva se denomina "Lógica de punto fijo". Autorreferencia, recursión, punto fijo, son más o menos sinónimos en el campo de la informática. Hay una leyenda urbana que dice que el uso de la recursividad implica automáticamente la indecidibilidad y, por tanto, es inservible en muchos ámbitos, incluido el alcance de la ley. Probablemente esto se deba a que otra forma de definir las máquinas de Turing es usar "Conjuntos recursivamente enumerables", vinculando el cálculo genérico con la recursión. Sin embargo, este no es siempre el caso. Existen lógicas decidibles de punto fijo, por ejemplo FO [LFP] y FO [PFP] (ambas son lógicas decidibles porque operan sobre estructuras finitas). No vamos a entrar en detalles ahora, solo mencionaré que TML es FO [PFP].

    (Decidibilidad significa de manera aproximada, para el lector que todavía no está familiarizado con el concepto, que es posible responder a todas las preguntas relevantes. Un lenguaje demasiado expresivo se volverá indecidible porque requerirá muchas [si no la mayoría] de las preguntas para necesitar un tiempo infinito en responder).

    Hemos señalado un marco lógico que tiene sentido para la legislación y que muestra cómo se rompen otros marcos lógicos. Del mismo modo, demostramos que los paradigmas de programación comunes también se desmoronan en estos aspectos, y que nuestro paradigma alternativo también es viable para los lenguajes de programación. Requerir que la ley se escriba en una lógica decidible de punto fijo es un requisito altamente no trivial y altamente específico, pero creo que queda demostrado que realmente no hay otro camino por dónde ir

    Pero, por supuesto, a pesar de que elimina tantas otras posibilidades, todavía no es suficiente. Básicamente equivale al tipo de lenguaje de la ley: permitir la recursión y mantenerla decidible. Aún y así, se deben decir muchas más cosas sobre dicho lenguaje y su uso, para que sea adecuado para la legislación. Esto tiene que ver con el campo llamado KRR (Representación del conocimiento y razonamiento). No tengo mucho que decir al respecto: básicamente adoptamos el modelo ontológico junto con el modelo de máquina relacional. Para obtener más información acerca de la representación del conocimiento como ontologías y relaciones, puede referirse a los recursos sobre la Web Semántica.

    ¿Entonces, pasamos del lenguaje al conocimiento, a cómo se adquiere el conocimiento en un entorno social? Bueno, nunca es el caso que la gente simplemente escriba todas sus opiniones. Las opiniones son comunicadas por (y también surgidas de) eventos y discusiones. Más profundamente, las opiniones surgen del interés, o incluso más profundo, de las preguntas.

    Y ahora llegamos a hablar sobre lo más importante en la vida: las preguntas. Tenemos la idea de una respuesta correcta. Incluso podemos programar las computadoras para que digan si una respuesta dada a una pregunta determinada es correcta. Estamos interesados en respuestas correctas a nuestras preguntas. Pero, ¿cuál sería el tipo de preguntas que nos interesan? Bueno, estamos interesados en preguntas interesantes, otra definición circular que no tiene sentido. ¿Qué preguntas son interesantes?

    Si bien la respuesta a la pregunta "para la que X tenemos X = 4X-6" es X = 2 es correcta para cualquier ser inteligente, para cualquiera que pueda entender la pregunta. La información en esta pregunta específica es suficiente para considerar objetivamente la respuesta X = 2 como correcta, sin importar los humanos, las máquinas o los alienígenas. Aún y así, no contiene absolutamente ninguna información sobre por qué sería interesante, si es que hay alguna.

    Las preguntas que son interesantes, no solo son subjetivas, sino que inherentemente siempre se derivan de las preferencias arbitrarias del solicitante. Un perro puede pedir cavar y un gato puede pedir una estera. No hay tal cosa como "una pregunta interesante", sino "una pregunta interesante para ciertos seres en cierto momento". Nuestras preguntas provienen de nuestra naturaleza humana y nuestra naturaleza personal. Estamos definidos por las preguntas que encontramos interesantes, mucho más de lo que nos definen las respuestas que damos. Del mismo modo, la cooperación entre personas interesadas en las mismas preguntas tiene mucho más sentido si se compara con la cooperación entre personas que aceptan las mismas respuestas. Y muchos estarían mucho más interesados en encontrar personas que hicieran las mismas preguntas que ellos, que encontrar personas dando las mismas respuestas. Las preguntas son, por lo tanto, un aspecto importante de tau, incluidos los puntos planteados y más allá (por ejemplo, el papel de las preguntas en el escenario de la suposición del mundo abierto frente al supuesto del mundo cerrado).

    Para mayor claridad, podemos distinguir entre "preguntas" y "consultas". Por consultas nos referimos a preguntas en las que esperamos tener una respuesta inmediata, por ejemplo, el caso donde alimentamos una máquina con información, y luego consultamos esa información. La máquina no devolverá nueva información y no debería, solo usará la información que le hayamos dado. Por el contrario, por "preguntas" nos referimos a preguntas en las que no esperamos tener una respuesta disponible todavía. Una pregunta es una herramienta para definir qué conocimiento se desea. Las preguntas suelen venir antes del conocimiento, y no al revés. Son una herramienta para enfocar una discusión o una exploración en ciertas áreas de conocimiento. Una herramienta que la máquina nunca podrá simular, pero dado el aporte humano de qué preguntas son interesantes, puede ayudarnos en gran medida a encontrar respuestas correctas mediante discusiones sobre esas preguntas.

    Ahora podemos concluir con el papel del pueblo frente al papel de la máquina, en tau: los humanos son para las preguntas, y las máquinas son para las respuestas. En términos más generales, veo esto como una verdad filosófica que debe guiar cualquier aspiración de IA.

    De nuestros seis pasos: lenguaje, conocimiento, discusión, colaboración, elección y economía del conocimiento, ahora cubrimos cómo para alcanzar el objetivo de la elección social, éste debe referirse al proceso de elección social en sí, necesitamos tipos muy específicos de formalismos que descienden al nivel del lenguaje en si (sin cubrir el internet de lenguajes de publicaciones anteriores) y, desde allí, hemos tocado algunos aspectos adicionales relacionados con el conocimiento y la discusión.

    La próxima: ¿Quién decide?