Saltar al contenido principal

Cómo funciona

Una sesión tiene cuatro pasos: descubrimiento, conexión, inferencia y liquidación. Ningún paso lo opera GenKaKu Labs.

1. Descubrimiento​

Un worker se registra en el programa con una cuenta por billetera (["worker", wallet]), que contiene:

  • el peer ID, guardado como los bytes de su multihash: la misma clave ed25519 que la billetera,
  • la tarifa: micro-USDC por minuto iniciado. Es la del modelo más caro del worker, porque una sola cuenta tiene que servir un catálogo,
  • un localizador opcional: las multiaddrs a las que un cliente puede marcar,
  • un indicador active y dos contadores, earned y settlements.

Un cliente lee todo el directorio con una llamada getProgramAccounts filtrada por el discriminador de la cuenta. No hay una API de directorio en la que confiar ni un log que reproducir: el estado de la cuenta es el listado.

Los localizadores son opcionales. Un worker publica su dirección solo cuando el operador activa publishAddress, y la publicación es permanente una vez que está en la cadena.

La tarifa escrita en la cadena es un techo. Un worker vende varios modelos a precios distintos pero tiene un solo campo de tarifa, así que lista el más caro y toda sesión debe tener un precio igual o inferior. El sidecar del propio worker rechaza una sesión que rebaje la cotización del modelo antes de generar un token.

Workers privados​

Un worker puede salir del mercado sin salir del programa. En modo privado:

  • deja de anunciarse a la semilla (su conjunto de respuestas es público, así que listarse allí publicaría justo el peer id que el modo existe para ocultar),
  • conserva su fila en la cadena activa pero con el localizador vacío, porque open_session rechaza un worker inactivo y la liquidación sigue pagando a esa cuenta,
  • responde solo a las billeteras de su lista de permitidos. La comprobación usa el connection.remotePeer autenticado por el transporte, convertido a billetera, así que un usuario autorizado no necesita token y un código robado no sirve desde otra máquina.

La lista se llena con códigos de emparejamiento de un solo uso: el worker genera uno, el usuario lo canjea una vez y el código queda gastado. Reintentar desde la misma billetera es idempotente; desde otra se rechaza. Desemparejar quita una billetera de inmediato.

El descubrimiento no cambia para los demás: la lista del cliente es el directorio público más la semilla, y un worker privado solo entra en ella mediante un emparejamiento que el usuario completó.

Qué muestra el cliente​

El plugin de usuario mantiene su propia vista del tablero, local al perfil:

  • búsqueda por modelo, nombre visible del worker y billetera,
  • orden por recomendado, precio, latencia medida, sesiones servidas, nombre del modelo o del worker,
  • una lista de marcas de claves (worker, model), como mucho diez, que es exactamente lo que ofrece el selector de modelos del chat. Una marca es por worker, así que el mismo modelo de dos workers son dos filas; por eso el selector las etiqueta worker · modelo.

La primera vez que un perfil abre el panel, se marcan las diez mejores filas según el orden elegido, para que el plugin funcione antes de configurarlo. Después la lista es lo que el usuario marcó, incluida la vacía.

2. Conexión​

El plugin de usuario abre una conexión libp2p al peer ID del worker. El intercambio hello (/genkaku/hello/0) fija:

  • el peer ID, que debe codificar la billetera que declara (se comprueba, no se supone),
  • una firma sobre un nonce nuevo, que demuestra que el proceso tiene esa clave,
  • la cotización por hora y el modo de facturación.

Si los dos pares pueden alcanzarse directamente —misma LAN, una IPv4 pública, una IPv6 global— los tokens viajan directos entre ellos. Si no, la sesión pasa por el relay semilla público.

El relay reenvía tráfico libp2p cifrado. No puede leer prompts ni salidas, pero su operador sí ve metadatos de conexión: direcciones de los pares, tiempos y volumen. Trata una sesión retransmitida como privada en contenido, no en quién habla con quién.

En esta versión no hay perforación de NAT (nada de DCUtR). O los pares son marcables directamente, o el relay transporta la sesión.

3. Inferencia​

El worker ejecuta el modelo localmente con Ollama y transmite los tokens de vuelta por la misma conexión. El mercado nunca ve el prompt; el operador del worker sí.

Una oferta de precio cero se salta la cadena por completo y se sirve gratis.

4. Liquidación​

Las sesiones de pago usan una cotización por hora con acumulación por minuto iniciado:

  • el worker anuncia un precio por hora,
  • el cliente lo convierte en una tarifa por minuto, redondeando hacia arriba una sola vez,
  • cada minuto iniciado cuenta como un minuto,
  • un trabajo de dos minutos paga dos minutos, no una hora.

Para un modelo de pago, el usuario deposita en el escrow de la sesión antes del primer token. Eso es una transacción, y por defecto prepaga diez minutos; lo que no se use se devuelve. Cuando la sesión termina:

  1. el cliente envía al worker su recibo acumulado más grande: el techo de lo que aceptó pagar;
  2. el worker factura los minutos que cubre ese recibo y firma la liquidación él mismo: su firma de transacción es la prueba de que sirvió;
  3. el 99% va al saldo reclamable del worker y el 1% a la tesorería;
  4. el cliente cierra la sesión, lo que devuelve de inmediato el depósito no usado.

Un worker retira su saldo con claim, que cualquiera puede enviar una vez pasados diez minutos desde la última liquidación. Ese retraso es la ventana en la que un usuario todavía puede cerrar una sesión, así que un worker no puede cobrar por un minuto que el usuario estaba a punto de cancelar.

Por tanto, la liquidación le cuesta al usuario una transacción (abrir) y al worker una transacción (liquidar). Las comisiones son una fracción de céntimo: Solana cobra por unidades de cómputo, no por gas a un precio de mercado.

El cliente también tiene su propio techo. Una sesión que la política de gasto no permite se rechaza con HTTP 402 antes de construir ninguna transacción, así que no se deposita nada y la billetera no firma; el reembolso y el cierre de arriba solo ocurren en sesiones que sí se pagaron. Los campos están en Límites de gasto.

Qué sustituye al orquestador​

Modelo antiguoGenKaKu
El servidor asigna trabajosEl usuario elige un worker entre las cuentas del programa
El servidor almacena promptsConexión directa entre pares
El servidor mide el usoAcumulación por minuto iniciado y recibos firmados
El servidor pagaEscrow liberado en la cadena

Los supuestos de confianza son menores porque hay menos en medio. No son cero: sigues confiando el prompt al worker, los metadatos al relay si tu sesión va retransmitida, y el código que ejecutas.