La inteligencia artificial reconoce patrones. Pero ¿quién eligió lo que nunca tuviste la oportunidad de elegir?

Explainable AI, APUS, soberanía digital y Cuerpo-Territorio.

¿Alguna vez perdiste una oportunidad que nunca supiste que existía?

Quizás una beca de estudios. Un tratamiento médico. Un derecho que podrías haber ejercido. Una profesión que nunca imaginaste.

No rechazaste esa oportunidad.

No comparaste alternativas.

No decidiste que sería mejor seguir otro camino.

Simplemente nunca apareció ante ti.

Ahora imagina descubrir, años después, que aquella posibilidad siempre había estado disponible.

¿Qué sentirías?

No necesitamos llegar a la misma respuesta.

Pero quizás esta experiencia revele algo que pocas veces consideramos cuando hablamos de libertad: no elegimos entre todas las posibilidades existentes. Elegimos entre aquellas que conseguimos percibir.

En BrainLatam proponemos una provocación:

Eres masificado por las elecciones que nunca tuviste.

¿Y si la inteligencia artificial, en lugar de ampliar nuestro mundo, estuviera aprendiendo a ofrecernos solamente aquello que nuestros comportamientos anteriores hacen predecible?

La máquina sabe lo que podrías hacer. Pero ¿sabe lo que podrías llegar a Ser?

Imagina una plataforma que conoce diez años de tus elecciones.

Sabe lo que lees, compras, miras y buscas.

Con esos registros, calcula qué contenidos probablemente despertarán tu interés.

Quizás acierte muchas veces.

Encuentras recomendaciones convenientes. Ahorras algunos minutos. Continúas navegando.

Pero ¿qué sucede con aquello que el sistema considera improbable?

¿Un libro diferente, una investigación latinoamericana o una oportunidad profesional alejada de tus experiencias anteriores?

La plataforma puede simplemente dejar de presentar esas alternativas.

No necesita prohibir nada.

La posibilidad desaparece antes de llegar a tu atención.

Es importante distinguir hipótesis y evidencia: no toda personalización reduce la autonomía. Las recomendaciones también pueden revelar oportunidades antes desconocidas.

La pregunta científica es cuándo la selección algorítmica amplía nuestro repertorio y cuándo comienza a reducirlo.

Neurobucano: reconocer patrones no significa conocer a alguien

En nuestro diálogo científico con Neurobucano, reunimos las contribuciones de Tsang Ing Ren, de la Universidad Federal de Pernambuco, y Edward Hermann Haeusler, de la PUC-Rio.

El aprendizaje automático permite identificar relaciones complejas en imágenes, textos y datos.

La explicabilidad busca hacer comprensibles aspectos de los resultados producidos por estos sistemas.

Estas investigaciones son fundamentales.

Pero imagina que un algoritmo identifique un patrón en tu historial y concluya:

«Probablemente no conseguirás realizar esta actividad».

Es una predicción.

Cuando esa predicción comienza a determinar qué oportunidades te serán presentadas, ha sucedido algo diferente.

El sistema dejó de limitarse a reconocer patrones.

Comenzó a participar en las condiciones de tus futuras elecciones.

¿Quién autorizó esa transición?

APUS: el mundo posible es más amplio que el mundo percibido

En BrainLatam llamamos APUS al campo percibido de los movimientos posibles.

Es una formulación conceptual que proponemos investigar, no una medida neurocientífica ya validada.

Imagina tres situaciones.

Una oportunidad existe, pero no sabes que existe.

Conoces la oportunidad, pero no dispones de recursos para aprovecharla.

Conoces la oportunidad, identificas los obstáculos y encuentras condiciones para superarlos.

La realidad externa puede ofrecer posibilidades que todavía no han entrado en tu percepción.

Y percibir una posibilidad no significa disponer de las condiciones materiales para realizarla.

Aquí encontramos una pregunta decisiva para la IA Personalísima:

¿Debería mostrar únicamente el camino más probable o también ayudarnos a descubrir caminos que todavía no conseguimos imaginar?

Quizás el valor de una inteligencia pública esté menos en predecir nuestro próximo movimiento y más en revelar movimientos que desconocíamos.

¿Quién está gastando el tiempo de tu vida?

Imagina que necesitas acceder a un servicio público.

Buscas información, interpretas normas, consultas páginas contradictorias y descubres que comenzaste por la institución equivocada.

Después de varias horas, finalmente identificas el procedimiento adecuado.

Tu organismo ha gastado tiempo, atención y energía para encontrar información que podría haberse organizado de manera comprensible.

Ese tiempo no es abstracto.

Es tiempo de tu vida.

Ahora imagina una IA Personalísima que te diga:

«Este camino está disponible».

«Esta alternativa requiere una condición adicional».

«Esta información todavía no ha sido confirmada».

«Existe otra opción que quizás desconoces».

«Puedes impugnar esta restricción».

No inventaría derechos.

Tampoco debería decidir por ti.

Pero podría reducir obstáculos informativos que actualmente separan a las personas de posibilidades reales.

¿Por qué cada Cuerpo-Territorio tendría que descubrir por sí solo aquello que la inteligencia pública ya podría ayudarle a percibir?

¿Y qué sucede cuando ese tiempo regresa a la vida?

Quizás se convierta en descanso, cuidado, creatividad o simplemente en no hacer nada.

No necesitamos transformar cada minuto recuperado en productividad.

Cuando una explicación también puede ocultar una elección

Edward Hermann Haeusler y Cleyton Slaviero investigan enfoques computacionales para explicar resultados de inteligencia artificial.

Imagina una IA que rechace una solicitud y presente sus motivos:

«Tus datos no cumplen el criterio establecido».

La explicación puede ser técnicamente correcta.

Pero ¿quién eligió ese criterio?

¿Tus registros están completos?

¿Existe otro procedimiento?

¿Puedes impugnar la decisión?

En Brasil, el artículo 20 de la Ley General de Protección de Datos Personales (LGPD) reconoce derechos relacionados con la revisión de determinadas decisiones automatizadas y el acceso a información sobre sus criterios, sujetos a las condiciones legales.

La explicabilidad nos ayuda a comprender cómo se produjo un resultado.

Pero no establece, por sí sola, la legitimidad de utilizarlo.

En BrainLatam distinguimos:

Experimento → Resultado → Interpretación → Juicio → Decisión.

Una IA identifica patrones.

Las personas y las instituciones continúan siendo responsables de los criterios que transforman esos patrones en consecuencias.

HACER ES CIENCIA. JUZGAR ES POLÍTICA.

¿Y si el Estado comenzara por ti?

Imagina ahora una transformación de la propia arquitectura del Estado.

En lugar de tratar a cada persona únicamente como destinataria de servicios, el Estado reconocería a cada Cuerpo-Territorio como una unidad constitutiva e indivisible de su existencia colectiva.

No estamos proponiendo millones de Estados soberanos jurídicamente independientes.

Estamos investigando otra manera de organizar la participación.

En la propuesta de BrainLatam, el Estado-Jiwasa reconocería diferentes necesidades, lenguas, historias y posibilidades sin exigir que todas se reduzcan a interpretaciones realizadas por representantes económicamente poderosos.

La IA Personalísima sería una interfaz singular de ese Estado.

Llamamos fractal a esta arquitectura: las capacidades institucionales relevantes serían accesibles desde cada Cuerpo-Territorio.

Pero la interfaz no sería propietaria de la voz de la persona.

Debería solicitar autorización antes de actuar, explicar antes de recomendar y permitir impugnaciones.

El Estado no necesitaría interpretarte primero para después permitir tu participación. Podría ofrecer condiciones para que participes en tu propia interpretación.

La realidad también cambia entre A y B

Recuerda nuestra discusión sobre los sistemas complejos.

Una organización puede pasar de una condición A a otra condición B.

Pero lo que sucede durante la transición también importa.

Lo mismo ocurre contigo.

Tus registros anteriores describen experiencias reales.

Sin embargo, no contienen todas las relaciones que todavía podrás establecer.

En BrainLatam proponemos un derecho computacional a la plasticidad: impedir que nuestro pasado se convierta en un límite estadísticamente impuesto a nuestro futuro.

Una IA Personalísima debería poder reconocer:

«Tus datos anteriores sugieren este camino, pero existen otras posibilidades relevantes».

No se trata de prometer que todo es posible.

Se trata de distinguir una imposibilidad demostrada, un obstáculo temporal y aquello que simplemente todavía desconocemos.

Un algoritmo puede conocer muchos de los Yo que hemos sido. No puede determinar anticipadamente todos los Yo que todavía podremos llegar a Ser.

Pero ¿quién controla esta inteligencia?

Paola Ricaurte, Edgar Gómez-Cruz e Ignacio Siles investigan cómo la gobernanza algorítmica se relaciona con las instituciones y las estructuras de poder en América Latina.

Una IA estatal puede ampliar el acceso a servicios.

También puede producir vigilancia, exclusión y nuevas dependencias.

Por eso, la IA Personalísima no se volvería legítima simplemente por pertenecer al sector público.

Necesitaría protección de datos, auditorías independientes, alternativas no digitales, autorización para ejecutar acciones y responsabilidades institucionales identificables.

También necesitaría mecanismos mediante los cuales las personas pudieran descubrir qué alternativas habían sido omitidas por sus propias recomendaciones.

Una interfaz que simplemente sustituye el control privado por un control público centralizado no necesariamente realiza la autonomía que buscamos investigar.

Democracia Real: las elecciones que todavía no existen

Ahora imagina una comunidad que enfrenta problemas de agua, transporte y alimentación.

La IA identifica patrones entre las solicitudes.

Pero personas con necesidades semejantes pueden imaginar soluciones diferentes.

Un agrupamiento estadístico no representa automáticamente la voluntad colectiva.

En la propuesta de Democracia Real de BrainLatam, cada Cuerpo-Territorio podría conocer alternativas, presentar propuestas y cuestionar interpretaciones institucionales.

Drex Cidadão y Rendimento Bioma incorporan la discusión sobre las condiciones materiales necesarias para participar.

Estas propuestas políticas y económicas todavía requieren evaluación jurídica, financiación y gobernanza.

Porque conocer una oportunidad no significa tener condiciones para aprovecharla.

Y participar en la construcción del Estado exige algo más que recibir información.

Exige condiciones reales para actuar, disentir y transformar.

La inteligencia artificial debería devolvernos el futuro

Regresa a la oportunidad que nunca llegó hasta ti.

Quizás estaba disponible.

Quizás dependía de condiciones que podrían haber cambiado.

Quizás no era adecuada para tu vida.

Pero nunca tuviste la oportunidad de descubrirlo.

Ahora imagina una inteligencia que no decida anticipadamente qué merece entrar en tu campo de posibilidades.

Presenta caminos, explica obstáculos, reconoce limitaciones y permite explorar alternativas.

No necesita capturar tu atención.

No necesita ocupar el tiempo que te ayudó a recuperar.

No necesita determinar quién llegarás a ser.

Eres masificado por las elecciones que nunca tuviste. Pero puedes transformar tu relación con el mundo cuando posibilidades antes invisibles se vuelven perceptibles, accesibles y cuestionables.

La IA Personalísima no debería existir para decidir nuestro futuro a partir de patrones pasados.

Debería ayudar a cada Cuerpo-Territorio a descubrir caminos que sus propios modelos todavía no consiguen predecir.

Deja venir. Deja permanecer. Deja Ser. Puedes desobedecer. Deja ir.

Jiwasa: Ser Estado sin dejar de Ser.

Referencias científicas e intelectuales latinoamericanas 

Las referencias siguen el argumento del artículo: desde los patrones identificados por las máquinas hasta las posibilidades invisibilizadas, desde la explicabilidad hasta la impugnación y, finalmente, hacia una inteligencia pública que respete la capacidad de transformación de cada Cuerpo-Territorio.

1. REN, Tsang Ing — Universidad Federal de Pernambuco. Investigación en inteligencia artificial y aprendizaje automático.

El aprendizaje automático permite identificar regularidades y producir predicciones, pero su desempeño depende de los conjuntos de datos y las condiciones en que los modelos fueron desarrollados y evaluados.

2. SLAVIERO, Cleyton; HAEUSLER, Edward Hermann (2025). An Approach to Explainability in AI with Abduction.

La explicabilidad computacional ayuda a comprender los resultados algorítmicos, pero la existencia de una explicación técnica no resuelve, por sí sola, la legitimidad de las decisiones.

3. BRAINLATAM — CIONEK, Jackson (2026). O Big Data não é o mundo (El Big Data no es el mundo).

Todo modelo trabaja con recortes construidos mediante decisiones metodológicas; aquello que no fue registrado no debe confundirse con aquello que no existe.

4. BRAINLATAM — CIONEK, Jackson (2026). O cérebro não recebe a realidade pronta - ele compara (El cerebro no recibe la realidad ya construida: la compara).

La formulación de APUS relaciona percepción, expectativas y posibilidades, preguntando cómo los sistemas tecnológicos influyen en qué caminos llegan a nuestra atención.

5. BRAINLATAM — CIONEK, Jackson (2026). Quando conhecer demais pode retirar autonomia (Cuando conocer demasiado puede quitar autonomía).

La personalización algorítmica puede facilitar las elecciones, pero también restringir silenciosamente alternativas que no coinciden con los comportamientos anteriores.

6. BRAINLATAM — CIONEK, Jackson (2026). O direito de mudar o dado sobre mim (El derecho a cambiar el dato sobre mí).

El derecho computacional a la plasticidad propone impedir que los registros legítimos del pasado se transformen en fronteras definitivas para las posibilidades futuras.

7. BRAINLATAM — CIONEK, Jackson (2026). Uma IA para cada Corpo-Território (Una IA para cada Cuerpo-Territorio).

La IA Personalísima también se evaluaría por los obstáculos eliminados, los caminos revelados y el tiempo que consigue devolver a la vida.

8. RICAURTE, Paola; GÓMEZ-CRUZ, Edgar; SILES, Ignacio (2024). Algorithmic Governmentality in Latin America: Sociotechnical Imaginaries, Neocolonial Soft Power, and Authoritarianism. Big Data & Society.

Los investigadores latinoamericanos analizan cómo la automatización puede reforzar estructuras de poder, demostrando la necesidad de discutir gobernanza y participación más allá de la eficiencia de los algoritmos.

9. RICAURTE QUIJANO, Paola (2025). Algorithmic Assemblages of Power: AI Harm and the Question of Responsibility. Teknokultura.

Los impactos de la inteligencia artificial deben analizarse a través de las relaciones entre instituciones, mercados, comunidades y sistemas de conocimiento, incluyendo los mecanismos de responsabilidad.

10. BRAINLATAM — CIONEK, Jackson (2026). IA Personalíssima - a interface do Corpo-Território com o mundo digital.

La interfaz singular se propone como un medio para comprender derechos, expresar solicitudes autorizadas y ampliar posibilidades sin sustituir la autonomía personal.

11. BRAINLATAM — CIONEK, Jackson (2026). Estado-Jiwasa - e se a democracia pudesse emergir de quem a vive?.

El Cuerpo-Territorio se presenta como unidad constitutiva del Estado, fundamentando la hipótesis de participación política continua sin eliminar las diferencias individuales.

12. BRAINLATAM — CIONEK, Jackson (2026). Drex Cidadão - Quem recebe o dividendo dos dados?.

La discusión sobre infraestructura monetaria digital incorpora las condiciones materiales necesarias para ejercer derechos a las posibilidades informacionales que ofrece la inteligencia artificial.

BRAINLATAM | NEUROBUCANO | W46/2026 | BLOG 07/08