Lo más relevante:

  • Un constructor de Minecraft ha logrado un hito técnico notable al codificar un modelo de lenguaje con 5 millones de parámetros, utilizando la lógica de redstone del juego. Este ambicioso proyecto abarcó cientos de millones de bloques, demostrando que la computación puede existir en los lugares más inesperados.
  • Aunque el sistema funciona en principio, su rendimiento es increíblemente lento. Las respuestas pueden tardar horas en generarse, incluso con aceleraciones de velocidad. Sin embargo, su creador lo ha diseñado como una prueba de concepto y una obra de arte técnico.
  • Este proyecto es un poderoso recordatorio de que la computación no se limita a su sustrato físico; lo que realmente importa es la estructura y la lógica subyacente. La capacidad de construir un modelo de lenguaje dentro de un videojuego resalta la universalidad de los principios de la computación.

Un Constructor de Minecraft Crea un Modelo de Lenguaje Dentro del Juego

Un maestro de Minecraft ha logrado una hazaña técnica sin precedentes. El pasado fin de semana logró integrar un motor de inferencia de modelos de lenguaje completamente funcional dentro del universo del popular juego The Sandbox. 

Pero lo extraordinario es que todo el proceso se hizo exclusivamente utilizando el sistema de redstone nativo de Minecraft. Es decir, el maestro desarrollador no recurrió a bloques de comandos o modificaciones externas, más allá de una asistencia mínima para el renderizado. Dependiendo únicamente de circuitos lógicos construidos meticulosamente con los materiales disponibles dentro del juego.

El resultado ha sido una creación peculiar y fascinante. El chatbot, al mejor estilo de Chat GPT, ahora opera dentro del mundo de bloques; aunque hay que aclarar que su funcionamiento es notablemente lento. Sin embargo, no deja de ser un logro monumental en la ingeniería dentro de videojuegos, demostrando cómo los límites de la computación pueden trascenderse incluso en entornos virtuales aparentemente limitados.

Para comprender la magnitud de esta proeza, es esencial entender la naturaleza de la redstone. En Minecraft, este material funciona como el análogo del juego al cableado y componentes electrónicos del mundo real, permitiendo crear fuentes de alimentación, repetidores, comparadores, puertas lógicas y sistemas de retardo de señal utilizando únicamente bloques. 

Destacando además que los circuitos de redstone pueden emular comportamiento digital binario (encendido/apagado) y ejecutar operaciones lógicas complejas dentro del ecosistema del juego. Históricamente, jugadores ya habían construido calculadoras, unidades de memoria e incluso CPUs completas usando redstone. Pero este proyecto marca la primera incursión exitosa en el territorio de la inteligencia artificial generativa dentro de las limitaciones inherentes del motor del juego.

Un gran proyecto que requiere más desarrollo

En este proyecto visionario, el creador inició el proceso entrenando un modelo de lenguaje compacto fuera del ecosistema del juego, utilizando Python y el conjunto de datos TinyChat. La arquitectura resultante contiene aproximadamente 5.087.280 parámetros, con una dimensión de incrustación de 240, un vocabulario de alrededor de 1.920 tokens, seis capas transformer y una ventana de contexto limitada a 64 tokens. 

La mayoría de los pesos fueron cuantificados a 8 bits para optimizar el espacio, aunque los componentes críticos como los pesos de incrustación y las capas de normalización conservaron mayor precisión. La implementación física dentro de Minecraft abarca un volumen colosal de aproximadamente 1.020 × 260 × 1.656 bloques, sumando aproximadamente 439 millones de bloques en total. Requiriendo el mod Distant Horizons simplemente para visualizar la escala completa de la construcción.

Cuando un usuario introduce un mensaje a través de la interfaz nativa del juego, los circuitos de redstone ejecutan meticulosamente el proceso de inferencia neuronal paso a paso. Esta secuencia incluye operaciones complejas como búsquedas en matrices incorporadas, pases de avance a través de las capas, multiplicaciones matriciales distribuidas y aproximaciones de funciones de activación softmax. 

Meses de trabajo para un proyecto que será el germen de algo más grande:

En las demostraciones en video se documenta todo el ensamblaje de este sistema de redstone. Algo que demandó meses de trabajo meticuloso, destacando el compromiso extraordinario con el concepto. La velocidad del sistema, sin embargo, es glacial incluso bajo condiciones optimizadas. Operando con una tasa de ticks acelerada artificialmente aproximadamente 40,000 veces por encima de lo normal mediante la herramienta MCHPRS, el tiempo de respuesta aún se mide en horas. 

A la velocidad estándar de Minecraft, las estimaciones sugieren que generar una sola respuesta podría requerir más de nueve años, haciendo evidente que el valor del proyecto no reside en la utilidad práctica sino en su significado conceptual. Esta construcción sirve como demostración tangible de que los principios fundamentales de la inferencia neuronal pueden reformularse sobre cualquier sustrato lógico, recordándonos cuántas capas de abstracción ocultan nuestras pilas convencionales de software y hardware. Es, en esencia, una obra de arte técnico que desafía nuestras nociones sobre dónde y cómo puede ocurrir la computación.

¿Meme o investigación real?

Absolutamente, este proyecto trasciende por completo la búsqueda de utilidad práctica para convertirse en una demostración profunda sobre la naturaleza fundamental de la computación. Sin embargo, muchos críticos señalan que el proyecto roza el territorio del meme. Especialmente porque el verdadero entrenamiento del modelo ocurrió externamente, y Minecraft solo alberga la lógica de inferencia.

Aunque otros analistas afirman que esta característica, ser una obra maestra conceptual más que un modelo práctico, le confiere su encanto único y su propósito más profundo. Recordarnos que la esencia de la computación es independiente de su medio de ejecución.

La creación se erige como una obra maestra artística y educativa que desafía nuestras suposiciones más básicas sobre qué constituye un “sistema inteligente” y en qué entornos puede operar.

Luego de ver el desarrollo de este proyecto, quedan algunas incógnitas en el aire sobre su utilidad, practicidad y sustentabilidad: ¿qué es lo que realmente importa? ¿La arquitectura abstracta? ¿El medio físico (o virtual) que lo sustenta? ¿O la velocidad de ejecución que damos por sentada? Este experimento abre la puerta a imaginar otros sustratos igualmente extraños para la computación.

Artículos relacionadosMás del autor