Descajanegrizar la inteligencia de la máquina:

De la cibernética a la gubernamentalidad algorítmica

La caja negra

"los hechos científicos y los dispositivos técnicos no nacen como entidades cerradas, sino que atraviesan controversias, negociaciones y ensamblajes antes de estabilizarse. Cuando una máquina, una teoría o una práctica deja de generar preguntas o disputas, se convierte en una “caja negra”"

Bruno Latour

La caja negra

¿Qué constituye la caja negra?

>Caja Multidimensiona:

-> Opacidad estética

--> Opacidad técnica

---> Opacidad legal e institucional

----> Opacidad política

-----> Opacidad ideológica 

"Las nuevas ciencias del conductismo, la teoría de juegos, la investigación de operaciones y lo que pronto se llamaría cibernética pusieron en marcha una nueva epistemología de caja negra en la que las tradiciones de investigación crítica, que tenían décadas o siglos de antigüedad y en las que se desvelaban o desnaturalizaban los objetos para revelar su funcionamiento interno, fueron reemplazadas por un nuevo enfoque del conocimiento que abdicó de cualquier requisito de penetración en el objeto en cuestión, prefiriendo en cambio mantener el objeto opaco y hacer todos los juicios basados ​​en el comportamiento observable del objeto. En resumen, el sujeto conductista era un sujeto de caja negra. El nodo en un sistema cibernético era un nodo de caja negra. El actor racional en un escenario de teoría de juegos era un actor de caja negra."

Alexander R. Galloway, 2021 

Cajanegrización como epistemología

Cibernética

Cibernética

Cibernética, del kubernetes (Κυβερνήτης) o timonel, misma raíz de la cual procede el término gobierno.

 

Cibernética es la ciencia sobre la comunicación y el gobierno de las sistemas naturales, sociales y técnicos.

 

"sólo puede entenderse la sociedad mediante el estudio de los mensajes y de las facilidades de comunicación de que ella dispone y, además, que, en el futuro, desempeñarán un papel cada vez más preponderante los mensajes cursados entre hombres y máquinas, entre máquinas y hombres y entre máquina y máquina."

 

Norbert Wiener, Cibernética y sociedad, 1958

Máquina cibernética, 1948

Antecedentes de la Cibernética: Control

AA Predictor

Claude Shannon, A mathematical Theory of coomunication. 1948

Antecedentes de la Cibernética: Comunicación

Entropia vs información

Antecedentes de la Cibernética: Inteligencia y Conocimiento

Heinz Von Foerster, Principios de Autoorganizacion en un Contexto Socioadministativo. 1984

Cibernética de segundo orden

Ontología digital

  1. La naturaleza del universo físico (tiempo, espacio y cada entidad y proceso en el espacio-tiempo) es en última instancia discreta.
  2. El universo físico puede modelarse adecuadamente mediante valores discretos.
  3. La evolución del universo físico es computable como el resultado de un algoritmo.
  4. Las leyes que gobiernan el universo físico son completamente deterministas y probabilisticas.

 

Lucian Floridi, Against digital ontology.2009

Principios epistémicos y políticos de la cibernética

  • Formalización de la realidad como conjunto de sistemas y la interacción entre los mismos.​ 
  • Equivalencia entre sistemas físicos, naturales y sociales
  • Cajanegrización de los sistemas.
  • Inteligencia como procesamiento de información
  • Modulación y control como formas de gobierno sobre los sistemas.

¡Biopausa!

Computo e Inteligencia Artificial

Dimensión lógica del computo

Frank Rosenblatt, 1958

Perceptron

Red neuronal

Ronald FisherThe use of multiple measurements in taxonomic problems, 1936 

Reconocimiento

Clasificación

Campo vectorial multidimensional

Modelos extensos de lenguaje

Next Word Prediction

Tokenization y Byte Pair Encoding

Embeding: Word2Vec

Attention: Transformers

Positional Encoding

¡Biopausa!

Gobernabilidad algorítmica

Gubernamentalidad algorítmica

Por gobernabilidad algorítmica designamos globalmente cierto tipo de racionalidad (a)normativa o (a)política, que descansa en la cosecha, agregación y análisis automatizado de datos en cantidades masivas a fin de modelizar, anticipar y afectar por adelantado los comportamientos posibles. [...] La gobernabilidad algorítmica no produce subjetivación alguna, rodea y evita a los sujetos humanos reflexivos, se alimenta de datos infra individuales insignificantes en sí para plasmar modelos de comportamientos o perfiles supra individuales, sin jamás interpelar al sujeto, sin jamás llamarle a que rinda cuenta por él-mismo de lo que es, ni de en qué podría devenir. El momento de reflexividad, de crítica, de renuencia necesario para que haya subjetivación, parece complicarse o posponerse incesantemente.

Antoinette Rouvroy y Thomas Bernes, 2013

Gubernamentalidad algorítmica

Tres tiempos:

  1. El primer tiempo es el de la cosecha y de la conservación automatizada de cantidad masiva de datos no cribados, lo que se puede llamar la data-vigilancia constitutiva del big data. De hecho, los datos son disponibles en cantidades masivas, proviniendo de diversas fuentes.
  2. El segundo tiempo es el del datamining (perfilaje algoritmico) propiamente dicho, o sea, el tratamiento de esas cantidades masivas de datos de manera tal que surtan correlaciones sutiles entre ellos.
  3. El tercer tiempo es el del uso de esos saberes probabilistas estadísticos a fin de anticipar los comportamientos individuales reportados a perfiles definidos en base a correlaciones descubiertas por datamining. Este tiempo de la aplicación de la norma a los comportamientos individuales.

 

Antoinette Rouvroy y Thomas Bernes, 2013

Gubernamentalidad algorítmica

Transparencia y espacio público:

  1. Visibilidad continua de lo real
  2. Rivalidad con la norma legal a favor de una normalización.
  3. Diluye la noción de decisión
  4. El gobierno no es 'sobre lo real', sino 'desde lo real', a través de lo cual las normas producidas se conciben como inmanentes a la realidad.
  5. La aparente trivialidad del gobierno es acompañada por su propia opacidad. La acción normativa se vuelve invisible, detrás de una objetividad técnica.

Thomas Bernes, 2018

NIMBUS y Palantir

La República Tecnológica, en breve.
1. Silicon Valley le debe una deuda moral al país que hizo posible su ascenso. La élite ingenieril de Silicon Valley tiene una obligación afirmativa de participar en la defensa de la nación.
4. Los límites del poder blando, de la retórica altisonante por sí sola, han sido expuestos. La capacidad de las sociedades libres y democráticas para prevalecer requiere algo más que un atractivo moral. Requiere poder duro, y el poder duro en este siglo se construirá sobre software.
5. La pregunta no es si se construirán armas de I.A.; es quién las construirá y con qué propósito. Nuestros adversarios no pausarán para entregarse a debates teatrales sobre los méritos de desarrollar tecnologías con aplicaciones críticas militares y de seguridad nacional. Procederán.
12. La era atómica está terminando. Una era de disuasión, la era atómica, está terminando, y una nueva era de disuasión construida sobre I.A. está a punto de comenzar.