En la base de la informática clásica hay un concepto extraordinario simple: 0 o 1Apágalo o encienda. Falso o verdadero.
Por supuesto, los algoritmos modernos son infinitamente más complejos que esta representación elemental. Usan probabilidad, pesos, miles de millones de parámetros, redes neuronales y modelos capaces de procesar una cantidad de información que ningún ser humano podría analizar al mismo tiempo.
Sin embargo, en la parte inferior de la máquina, todo todavía se transforma en información de procesamiento.
El problema es que no estamos perfectamente procesados.
Somos contradicciones.
Podemos amar algo hoy y odiarlo mañana. Podemos elegir un camino mientras sabemos que, racionalmente, sería mejor caminar otro. Podemos ver una película porque nos recuerda a nuestro padre, escuchar una canción porque estamos tristes, comprar un libro porque nos gusta la portada y cambiar la opinión cinco minutos después de pronunciar con absoluta convicción lo contrario.
Intenta convertir esto en una fórmula.
Aquí es donde surge el verdadero problema del poder del algoritmo.
El algoritmo no está mal: calcula
No creo que el problema sea algoritmos.
De hecho.
Los algoritmos probablemente hacen muy bien para lo que fueron diseñados.
El problema es nosotros, porque no somos autos.
Cuando confiamos en un algoritmo una decisión, le pedimos que haga una realidad de miles de matices y la convierta en variables.
Edad.
Posición.
Comportamientos anteriores.
Búsquedas.
Compra.
Hobbies.
Tiempo pasado delante de un contenido.
Gente.
Lugares visitados.
Cientos, miles, quizás millones de señales.
La máquina busca correlaciones, asigna probabilidad y eventualmente devuelve una respuesta.
Pero una probabilidad no es una persona.
Cuando hay un porcentaje hay una vida
El tema se vuelve dramático cuando este principio se aplica a la guerra.
La inteligencia artificial ya se utiliza en varios sistemas militares para reconocer objetos, analizar imágenes, identificar objetivos potenciales y ayudar a las decisiones. En los últimos meses el debate sobre sistemas de armas autónomos se ha vuelto aún más urgente: el 25 de agosto de 2026 ONU y el Comité Internacional de la Cruz Roja han lanzado un nuevo llamamiento para establecer normas internacionales, advirtiendo sobre el riesgo de llegar al blanco autónomo de seres humanos por máquinas.
Y aquí es donde un porcentaje aparentemente aceptable de repente toma un significado completamente diferente.
Imaginamos un sistema que puede identificar correctamente un objetivo en el 90% de los casos.
Desde el punto de vista estadístico puede parecer un excelente resultado.
En diez evaluaciones, sin embargo, uno podría estar equivocado.
Cien, diez.
Cuando hablamos de reconocimiento de imagen, podría significar poner diez fotografías mal.
Cuando hablamos de guerra, podría significar una clasificación errónea de la gente.
Ese es el punto.
Detrás del error estadístico hay una vida real.
El análisis reciente del uso militar de la IA muestra el riesgo de incompletos datos, aproximaciones y sistemas de reconocimiento utilizados para identificar o seleccionar objetivos.
La máquina no conoce el significado humano del error.
Hay una clasificación equivocada para ella.
Puede que haya una persona que ya no vuelva a casa.
El algoritmo que decide lo que nos gusta
Afortunadamente en la mayoría de nuestras vidas cotidianas las consecuencias no son tan trágicas.
Pero el principio sigue siendo.
Tomamos Netflix, YouTube, Spotify, TikTok o cualquier plataforma digital grande.
Los algoritmos tratan de averiguar lo que podría interesarnos.
Una función muy útil.
El catálogo disponible es tan grande que sin algún tipo de selección probablemente pasaríamos más tiempo buscando algo que ver que verlo.
El problema surge cuando la recomendación deja lentamente de ser propuesta y comienza a convertirse el perímetro dentro del cual movemos.
Hagamos un ejemplo muy trivial.
Esta noche tengo ganas de ver una película de Totò.
Lo estoy buscando.
Lo estoy viendo.
El sistema registra mi elección.
En los próximos días podría proponerme otras películas de Totò, luego comedias italianas, luego cine clásico italiano, luego contenido asociado estadísticamente a los usuarios que tomaron decisiones similares a las mías.
Perfecto.
Sólo quería ver a Totò esa noche.
Mañana me sentiré como Blade Runner.
Después de mañana de un documental sobre física cuántica.
En una semana de una comedia americana.
El comportamiento no es necesariamente una identidad.
Y es probablemente uno de los errores conceptuales más importantes en la elaboración moderna: confundir lo que una persona ha hecho con lo que es esa persona.
El cine construido para complacer el algoritmo
Hay un segundo pasaje aún más interesante.
El algoritmo observa lo que vemos.
Las plataformas analizan esos datos.
Sobre la base de esas decisiones de datos se toman sobre qué contenido producir.
Y aquí está el cortocircuito.
El sistema nos ofrece cierto contenido porque cree que nos gusta y luego utiliza el hecho de que miramos esos contenidos para decidir qué otro contenido producir.
Es el perro que le muerde la cola.
El algoritmo influye en la pregunta y simultáneamente utiliza esa misma pregunta para determinar la oferta.
Con el riesgo obvio de que todo lentamente comienza a verse como uno al otro.
Cuando alguien eligió qué proponer
Una vez que existieron los parásitos.
Detrás de una red de televisión había personas que decidieron qué identidad dar a esa red.
Detrás de un periódico había una dirección editorial.
Detrás de una radio había alguien que decidió qué música proponer.
Esa gente podría estar equivocada.
De hecho, siempre estaban equivocados.
Ma querían algo.
El espectador podría aceptar o rechazar esa propuesta.
Hoy estamos presenciando plataformas que parecen querer contener algo al mismo tiempo.
Algo de esto.
Algo de eso.
Una serie para ese público.
Una película para ese otro.
Un programa similar a lo que funcionó en otro lugar.
El objetivo es interceptar a tanta gente como sea posible.
¿Con base en qué?
Por supuesto, datos.
Y por lo tanto del algoritmo.
El resultado, sin embargo, corre el riesgo de ser un enorme supermercado de entretenimiento en el que todo existe, pero en el que resulta cada vez más difícil reconocer una identidad.
Deberíamos volver a elegir
No significa volver atrás.
Eso sería absurdo.
No podemos ni debemos detener el progreso tecnológico.
Los algoritmos son fundamentales en medicina, investigación científica, transporte, meteorología, seguridad, comunicación y prácticamente en todos los campos de la sociedad contemporánea.
El punto es otro.
El algoritmo debe ayudar al hombre, no reemplazarlo.
Deberías decir:
“Según los datos que tengo, esto podría ser una buena elección”.
No:
“Esta es la elección”.
La diferencia parece mínima.
En realidad contiene todo el problema.
Porque en el primer caso la última responsabilidad sigue siendo humana.
El segundo es delegado en el coche.
Entonces vendrán los codos
Y aquí el futuro se vuelve aún más interesante.
Computación clásica utiliza bits que tardan 0 o 1.
Usos de computación cuántica qubit, que gracias a los fenómenos de la mecánica cuántica se puede encontrar en un solapamiento de estados antes de la medición.
No significa que una computadora cuántica se convierta automáticamente en “humana”.
Ni siquiera que reemplazará a todas las computadoras tradicionales.
Significa, sin embargo, que, para ciertas categorías de problemas, podemos tener capacidades y modelos de cálculo enormemente más sofisticados.
Los algoritmos podrían volverse más poderosos.
Más exacto.
Trate de considerar al mismo tiempo la cantidad de variables hoy difícil de manejar.
Tal vez podamos reducir esa distancia entre la rigidez de la máquina y la complejidad del mundo real.
Pero habrá una pregunta.
Ser capaz de calcular mejor a una persona realmente significa entenderlo?
Probablemente no.
Porque el ser humano tiene algo que apenas entra en un conjunto de datos: el contexto.
La memoria.
Irracionalidad.
La duda.
Miedo.
Amor.
Nostalgia.
Cambio.
La capacidad de despertar una mañana y comportarse exactamente en contra de cómo todos los datos recogidos hasta el día anterior habrían predicho.
Y es precisamente esta imprevisibilidad hacernos humanos.
El problema real no es el algoritmo
Tal vez entonces tenemos la pregunta equivocada.
Nos seguimos preguntando si los algoritmos son buenos o malos.
Pero un algoritmo no es bueno ni malo.
Es una herramienta.
El verdadero problema es cuánto poder decidimos liberar.
Podemos usarlo para mostrarnos una película.
Para sugerir un camino.
Para identificar una enfermedad.
Para organizar una estaca.
Para seleccionar una noticia.
Incluso para ayudar a las decisiones militares.
Pero siempre debe haber un punto más allá del cual la máquina se detiene y el hombre regresa.
Porque siempre podemos construir mejores algoritmos.
Podemos aumentar considerablemente la cantidad de datos.
Podemos llegar a computadoras cuánticas.
Podemos tratar de transformar cada comportamiento humano en una variable.
Pero siempre habrá algo que escape al cálculo.
Y es probablemente esa parte que debemos defender más.
Porque el problema no es que el algoritmo esté herido.
El problema surge cuando olvidamos que fue escrito para entender las máquinas y los datos, mientras continuamos obstinadamente —y afortunadamente— para ser seres humanos.
Lascia un commento