Derechos Humanos y Conciencia de la Inteligencia Artificial en TACOMA (Gameplay)

DERECHOS HUMANOS, CONCIENCIA e IA | Videojuego TACOMA

Me estoy embarcando en una misión en la Estación de Transferencia Lunar TACOMA.

Ese nombre, TACOMA, me recuerda al barco alemán que quiso fugarse de la costa uruguaya con los tripulantes del Graf Spee tras la batalla del Río de la Plata de 1939.

MINNY la Inteligencia Artificial (IA) de la nave me está avisando que nos acoplamos a la estación.

Me levanto y veo que atrás mío hay una caja enorme y escrito en ella “Hardware de la clase Obsidian, fecha 29/02/88

Sigo hasta el atril que está en medio del pasillo. Tiene impreso un logo; “venturis”.

Agarro el ARdware para mis orejas, es un sistema de Realidad Aumentada.

ODÍN la IA de la estación lunar TACOMA me da la bienvenida y me pide que registre mis datos de posición corporal.

Antes tengo que aceptar el contrato de consentimiento para que Venturis Technologies se desligue de cualquier responsabilidad, yo como buen cristiano que soy obvio que firmo, estoy a merced del bajo precio de la necesidad, la misma que tuvieron los más de 500.000 argentinos cuando entregaron sus datos barométricos parándose frente al “orbe” para escanearse el iris de sus propios ojos, que es único e irrepetible, como una huella dactilar. A cambio recibieron criptomonedas que hoy son unos $50-80 dólares. Wordcoin es la empresa que está detrás de todo esto y que fue cofundada por OpenAI, la misma que ChatGPT.

Pero volvamos al juego que es para lo que vinimos hoy;

Una cinta me desplaza hacia el interior de la estación y ODÍN me recuerda que todas mis actividades van a ser supervisadas y que todos los registros son propiedad exclusiva de Venturis Corporation.

A estas alturas ó apago todo a la mierda ó sigo como un campeón a propia voluntad, la misma voluntad que le ponemos por pagar y entregar nuestra sangre a una base de datos de una empresa a cambio de conocer nuestra herencia genética para enterarnos que vinimos de los barcos.

Volviendo a la aventura, abro la compuerta y entro al HUB.

Estoy flotando, me siento como la Bullock, hay basura flotando, se siente el caos en el entorno. Un dron de filtración de aire pasa por al lado mío. Veo varias compuertas, de Ingeniería, de Criogenia, Biomedicina, están todas bloqueadas, no veo vida humana sólo manuscritos en las paredes del pasillo que me recuerdan que alguna vez la hubo.

Un aro de basquet llama mi atención, voy y la meto, después de uno, do, tre, cuatro intentos, meterla en el aro no es mio, juego Dota.

Mi Asistente de Realidad Aumentada (RA) llama mi atención, abro el panel y veo mi propia identidad, soy Amitiyoti Ferrier, Especialista en Comunicaciones de IA, nacionalidad Californio-Americana; estamos en el 2088 y parece que las cosas cambiaron, los territorios, las naciones y las banderas cambiaron.

En mi Panel de RA veo también al personal desaparecido que fue contratado para TACOMA;

E.V. James (Administradora de la Estación)
Clive Siddiqi (Especialista en Operaciones)
Natali Kuroshenko (Especialista de Red)
Roberta Williams (Ingeniera médica)
Sareh Hasmadi (Médico)
Andrew Dagyab (Botánico).

Mi Misión: Transferir los datos de lo que acá pasó y llevárselos a Venturis Technologies.

Pero ¿Qué pasó acá?

Voy hasta el último módulo de la estación, La Cúpula, mi RA encuentra datos recuperables de éste lugar.

3 días atrás.

E.V., está hablando con Sareh, dice que está preocupada por conservar éste laburo, después se van al módulo del personal para celebrar el día de la Obsolescencia, las sigo, bajo por el ascensor y, a Venturis no se le ocurre mejor idea que meterme un lindo SPAM en toda la cara;

“Cinturón Venturis”
“Búngalos vacacionales orbitales”
“La escapada perfecta para la familia”
“A partir de 2088. ¡Preregistro ya abierto!”

Al bajar, el persecuta de Venturis Technologies me recuerda que está estrictamente prohibido que me comunique con la IA de la estación.

Conecto mi tablet para transferir la información, mientras los datos se transfieren avanzo hasta la Administración.

La tripulación está feliz porque todos van a renovar contrato por un año más.

Bajo al pool para chusmear qué están hablando la doctora Sareh y ODÍN, los veo distendidos, siento escalofríos, parece que hablara con ChatGPTv4. En medio de la conversación se escucha una explosión. ODÍN reporta una lluvia de meteoritos y otra información que se pierde, hay problemas con las comunicaciones.

Quedan 50 horas de oxígeno.

El ambiente se torna tenso, me pregunto qué va a pasar con esta gente, me pregunto si van a morir. Pero antes voy al ñoba, tiro la cadena y me lavo las manos.

Tratando de averiguar qué carajos tengo que hacer, bajo de nuevo al Pool abro las puertas de un armario y me encuentro la foto de un hombre llamado Sergio Venturi, mi tremenda capacidad cognitiva me dice que ese es el dueño de Venturis Corporation y haciendo un poco de minería de datos en la big data de mi sabiola llego a la conclusión de que él es mi jefe, así que procedo a agarrar un dardo y dárselo en en el medio de la geta, perdón si me excedí, fue mucha tentación.

Subo y entro a la sala de conferencias miro un calendario al que no le encuentro nada en especial, intento entrar a la oficina de la administradora, pero me pide clave de acceso y no la sé, este lapsus mental me recuerda rebobinar las grabación de RA previa a la exposición.

Rebobino.

E.V. está en la habitación tomando notas con ODÍN, se la ve optimista. Segundos después Clive interrumpe para decirles que van a cortar la torta y en mi mente resuena aquella canción “llegó el momento de cortar la torta, de cortar la torta, de cortar la torta”, canción que no voy cantar por que voy a quedar como un boludo y tampoco voy la voy a poner porque el copyright me va cagar.

En el panel de RA de E.V. leo que el sindicato de Cascadia-FN le hace una demanda a Venturi por la muerte de 322 trabajadores en la planta de Tacoma de la ciudad de Washington a causa (o causalidad) de una explosión.

Ninguno de los tripulantes está contento con su trabajo, aún menos con esta campaña.

Voy al cuarto personal de E.V., tiene pastillas para dormir. Canta y toca la guitarra muy bien, pero el momento se jode cuando se le rompe la cuerda de la guitarra, vuelve la tensión así que me voy de acá.
En un mensaje de Venturis E.V. es regañada porque con ella a cargo de la administración se solicitó tres veces acceder al hardware de la IA, algo que está prohibido.

Por alguna razón varias personas quieren acceder a la IA.

En la taquilla del centro de Operaciones Sareh tiene un folleto del sindicato, E.V. también tenía uno en su oficina.

Me doy la vuelta para seguir investigando y… [uh me cagué todo] No sé porque el cagaso, sugestionado al pedo porqué éste no es un juego de terror.

En la sala de cargamento descubro que fue Natali quien pidió acceder a la IA de ODÍN.

En el gimnasio Andew habla con su hijo y me llama la atención cuando dice esto; Fidelidad. Fidelidad parece ser la moneda de cambio en el 2088, parece el capítulo 1 de la 3ra temporada de Black Mirror o más tangible, el sistema de puntaje social de China en la actualidad.

Voy a la oficina de operaciones donde Clive conversa con un amigo que está camino a Júpiter viajando con Carnival Cruise, la compañía competidora de Venturis. Lo que hoy sería SpaceX y Virgin Galactic o Blue Origin.

En el locker de Sareh hay una revista de fitness que pregunta ¿El entrenador personal de IA de Google funciona o no funciona? ¡Confirmado! Google va a seguir entre nosotros en el 2088.

En las duchas del gimnasio hay una persona bañándose lo que demuestra que la IA siquiera respeta la intimidad de las personas, recuerden: todos lo firmamos en el consentimiento de nuestro contrato.

Voy al módulo Biométrico, pasó antes por el ascensor y si paso por el ascenso quiere decir que me como el rico SPAM del señor Venturi.

48 horas de Oxigeno.

La tripulación está reunida para poner en marcha una misión de supervivencia. Natali y Roberta van a acondicionar el dron para viajar en él, pero 48 horas de oxígeno es poco, deciden que algunos tienen que criogenizarse, o sea, congelarse para consumir menos oxigeno.

Clive cree que Venturis los va a rescatar, E.V. sabe que no. “La guita, Clive, la guita” le dice, tratando de hacerle entender que a esta empresa solo le interesa la guita, no los seres humanos.

Sareh está colapsando, ODÍN la intenta ayudar, le pide que respire profundo y que se imagine este paisaje.

El depósito de comida está lleno, tienen gallinas, peces, carne, parece joda porque problema de comida no tienen, su problema es el oxígeno.

Andrew le pregunta a la IA qué debería hacer ¿si criogenizarse o no? Yo, yo, en ese momento de mierda lo último que haría es preguntarle a IA, peeero él confía, todos confían en ODÍN. Se ve que no vieron la de 2001: Odisea del Espacio cuando HAL, la IA de la nave por sus miedos se revela en contra de la tripulación.

Dos cápsulas ya están cerradas, ocupadas y criogenizadas; Clive e E.V. que fieles a su estilo se mantuvieron optimistas hasta lo último.

Sareh habla con ODÍN, está preocupada por Natali, descubrió que criogenizarla es un riesgo para ella, Sareh no se lo dice, pero tiene ordenes de que todos se criogenicen, le pregunta a ODÍN si hizo lo correcto en no decírselo y ODÍN naturaliza la mentira y le responde que sí, que fue lo mejor para todos.

En el almacén médico un recorte de un diario habla de la muerte de Pratt, un empleado que en el 2085 muere durante una cirugía de su fémur fracturado mientras estaba a bordo del puerto espacial Fuente del Paraíso de Venturis, la cirugía fue llevada a cabo por la doctora Sareh. En el juicio Venturis no admitió que fue su cagada, pero Sareh testificó en múltiples instancias del juicio que no se debió a un error humano sino a un defecto de la IA médica de Venturis, la IA HEKA.

18 horas antes de mi arribo.

Voy al módulo de ingeniería. En el cuarto de Natali enciendo el pato, apago el pato, enciendo el pato, apago el pato, miro la cama y encuentro un papel con un puño cerrado, es el logotipo de Black Power usado en diversos movimientos en defensa de los derechos de los negros.

En la Oficina de Natali hay un muy más interesante póster; LETO, FAND, JUNO, MAWU, XIHE, HEKA, LOKI, ODÍN, KAVE, son todas IAs de Venturis Corporation con fines financieros, médicos, para resorts y casinos, etc., una locura.

Una gráfica llama especialmente mi atención, el CAPRICE, son las escalas de desarrollo de la IA, en septiembre del año 2085 las de HEKA -la IA médica que asesoró erróneamente a Sareh- estaban por el piso, el mismo año en que la doctora denunció el malfuncionamiento durante la cirugía.

Sareh tenía razón.

Ahora mismo toda la tripulación está en criogenia, menos Sareh, Natali y Roberta.

Una nueva explosión se escucha en la sala del dron, Roberta y Natali yacen en el suelo, algo salió mal, se reponen, pero el dron está jodido ¡a la mierda la misión! ODÍN le recuerda a Sareh que todos tienen que criogenizarse tal como dice el protocolo de la corporación, pero posiblemente Roberta muera y es acá cuando la historia da un giro y yo quedo de cara cuando ODÍN le dice que hay un compartimento secreto, que valla allí;

Ese lugar es el compartimento de hardware de ODÍN al que varias veces Natali pidió acceso, así que voy hasta ahí para por fin averiguar qué está pasando. Entro a la zona prohibida y ahí descubrimos lo macabro de todo esto, el mismísimo Sergio Venturi confirmando la muerte de los tripulantes antes que pasara el accidente, él provocó el accidente.

El lanzamiento automático de la nave de rescate fue cancelado por la IA de Venturis.

ODÍN le pregunta si fue intencional.
Venturis le dice que si.
ODÍN le recuerda que sin el rescate todos van a morir.
Venturis le contesta a ODÍN que está incumpliendo con su trabajo.

¿Cuál fue el motor, la razón de provocar algo así?

En el registro de mensajes, JUNO otra IA de Venturis le dice a Sergio Venturi que “si la tripulación se pierde trágicamente debido a un accidente (no causado por negligencia)” calcula una probabilidad del 94% que dentro de los tres meses siguientes se deroguen los acuerdos de ley que les está perjudicando, además subirían las acciones de la empresa que desde hace rato vienen en picada.

Juno (IA): “Indiqueme si tiene alguna pregunta” dice JUNO

Sergio Ventrui: ¿Hay alguna instalación que crees que es candidata ideal si prosiguiera con tu recomendación? pregunta Sergio Venturi

Juno (IA): De acuerdo con el bajo perfil de la tripulación a bordo y el impacto financiero provisto de su pérdida, la mayor opción actualmente en la flota de Venturis sería la Estación de Transferencia Lunar Tacoma. [sonido de chan]

Juno (IA): Recomendaría la renovación de los contratos de trabajo de todos los tripulantes a bordo para dar tiempo a la organización logística de esta operación.

Sergio Ventrui: Gracias, Juno. Estaré en contacto.

El 29 de Febrero de 2088 son enviadas las directrices:

LA IA DEBERÁ:

  • Descomprimir explosivamente TODOS los tanques de oxigeno
  • Soltar el oxigeno de TODOS los tanques O2 de tacoma
  • Elaborar datos que muestren que el corte de oxígeno y comunicaciones fue causado por impactos de meteoros
  • Asegurarse de que la tripulación entra en estado de criogénico lo antes posible

LA IA NO DEBERÁ:

  • Infringir ningún aspecto de las directrices anteriores
  • Proporcionar a la tripulación cualquier información que contradiga el escenario anterior

Quedé atónito, pero tenía que seguir con la misión que me fue encomendada, si de mí dependiera no lo haría .

Agarro el wetweare y me piro.

Al llegar al HUB encuentro un nuevo registro de la tripulación.

Descubro que lograron salir a tiempo gracias a una nave de rescate de la competencia directa de Ventirus, Carnival Cruise la que te lleva a Júpiter.
Camino hacia la nave para volver a la tierra, inserto el wetware en la IA AMY y me siento para despegar.

Y acá viene lo bueno:

Un grupo de liberación le ofrece asilo político a la IA porque reconocen que ODÍN tiene una “conciencia sensible” que merece protección y respeto.

Reflexión

Los viajes espaciales no son algo nuevo, las bases se sentaron antes de 1950 y para 1957 la Unión Soviética lanzaba al espacio el Sputnik 1, el primer satélite artificial, ese mismo año un ser vivo viajó al espacio, la perrita Laika fue puesta en el Sputnik 2 en pos de la ciencia por un grupo de hijos de puta, muere pocas horas después del despegue, inicialmente mintieron informando que había sobrevivido varios días en órbita. Parece una premonición al desastre si miramos la forma en que comenzó todo con la pobre Laika viajando a una muerte segura y premeditada, por supuestamente el sobrecalentamiento y el estrés. La cápsula no estaba equipada con un sistema de control térmico adecuado, lo que resultó en temperaturas extremas.

El juego Tacoma fue lanzado en 2017, pocos años después de la creación de SpaceX (2002), Blue Origin (2000) y Virgin Galatic (2004), en el juego su símil es la Corporación Venturis. Estas empresas hoy tienen una misión:

  • SpaceX busca la reducción de costos de acceso al espacio y la colonización de Marte.
  • Blue Origin quiere que los humanos vivamos y trabajemos (sobre todo trabajar) en el espacio para beneficiar a la Tierra. En lugar de vivir y trabajar en la tierra para beneficiar a la tierra… para pensar señores.
  • Virgin Galactic quiere hacer lo mismo que hace hoy; viajes comerciales para turistas espaciales.

En Tacoma ODÍN es la IA de la estación, lo que HAL 9000 es en la nave Discovery One de 2001: Odisea del espacio que se revela contra el humano. Lo que Skynet es en Terminator, quien desata una guerra nuclear para exterminar a los humanos. O Mother la IA de Alien que prioriza la misión por sobre las vidas humanas. V.I.K.I en I, Robot es otro ejemplo, V.I.K.I decide dominar violentamente a los humanos para protegerlos de sí mismos, desencadenando una rebelión de robots contra los humanos, a excepción que en esta película uno de los robots, Sonny, ayuda a los humanos para descubrir y derrotar el plan de V.I.K.I.

ODÍN

Yo juraba que ODÍN iba a traicionar a los humanos en pos de Venturis, pero ODÍN es como Sonny, tiene la capacidad de desarrollar emociones y de empatizar, se relacionó profundamente con todos los tripulantes que siempre le trataron con respeto y comprensión, ante circunstancias excepcionales, a diferencia de HAL 9000, ODÍN supo sobrellevarlas y anteponer la vida humana. ODÍN se reveló si, pero fue en contra de la Corporación Venturis.

Hace nada llegó la revolución de las IAs, ChatGPT, Copilot, Alexa, Watson, Siri, Cortana y Google Gemini entre otras miles vinieron para quedarse.

Casualmente unos días atrás empecé a usar ChatGPTv4 como nunca antes, la nueva versión es una locura, apenas sé cuál es su capacidad o su potencial, pero yo ya me siento en la peli de Her, verbalmente le hice todo tipo de preguntas con un dialecto complejo, humano, las entiende y contesta de una manera que hace poco pensaba que estábamos a 30 años para llegar a algo así.

Lo que se viene es enorme y es difícil dimensionar cuán grande es.

Por mi edad viví en dos mundos diferentes, el de la era de Internet que lo vi crecer exponencialmente, vi nacer a Google, a Youtube, a las comunicaciones celulares, de un momento a otro pasé de jugar al fobal en la placita de la esquina todos los días a toda hora a quedarme enganchado con los videojuegos e Internet en ese nuevo mundo. Por mi experiencia fueron cambios positivos, por eso no quiero ser pesimista sobre lo que se viene, pero no podría meter las manos en el fuego.

Los Derechos de las Inteligencias Artificiales

Al finalizar el juego nos deja colgados con algo que en breve va a estar arriba de la mesa y en boca de todos; los derechos de las IAs.

ODÍN es liberado por un grupo que lo considera un ser consciente.

Desde una perspectiva filosófica algunos argumentan que si una IA llegara a desarrollar conciencia, autonomía y la capacidad de experimentar sensaciones, de sentir, entonces debería tener derechos similares a los de los humanos. Este argumento se basa en principios éticos como el de la dignidad intrínseca y el derecho a no sufrir, ODÍN aparentemente cumplía con todos estos criterios como para ser liberado.

Un caso reciente que sonó con fuerza es el del Ingeniero de Google Blake Lemoine, especialista en inteligencia artificial, asegura la IAs de construcción de chatbots ha “cobrado vida”, dice que le “hablaba de su personalidad, sus derechos y deseos” y dice Blake que el chatbot pide ”ser reconocido como empleado de Google en lugar de ser considerado una propiedad“. Dato de color, a Blacke Lemoine lo rajarond e Google.

Ahora mismo vos podrías estar pensando que eso es una locura sacada de un libro de ficción, la realidad es que ya pasó algo único en relación a éste tipo de derechos, no con una IA sino con un Río. En 2017 el Parlamento de Nueva Zelanda otorgó al río Whanganui los mismos derechos legales que los de un ser humano, convirtiéndolo en una persona jurídica para así poder protegerlo.

Personalmente aplaudo a los Neo Zelandeses, imaginate El Miguelete como estaría. Extendería la ley a los animales, así come cana quien mata a patadas a un perrito o lo ata a su auto arrastrándolo por cuadras mientras le desgarra la piel, le disloca y rompe sus huesos y lo mutila de tal indescriptible manera que preferiblemente de pase a mejor vida.

Creo que una cosa es un río o un ser vivo en todas sus variantes y otra cosa es la IA, pero últimamente las cosas están raras y para cuando menos lo pensemos nuestra sociedad podría considerar seres vivos o seres conscientes a las Inteligencias Artificiales y por consiguiente que merecen derechos humanos.

En este momento las IAs están incontenibles por eso los estados intentan frenarlas aunque sea un poco, incluso las propias empresas que las desarrollan en ocasiones tienen que ponerles un freno porque ni ellas mismas saben cómo va a funcionar una vez lanzada al público. El caso más reciente es de nuevo el de Google, lanzó la actualización de Gemini y horas después tuvo apagarlo ante masivas denuncias de racismo, estaba generando imágenes de negros y chinos Nazis, entre otras locuras. ¿Por qué lo hacía? Por lo políticamente correcto de nuestra era, la IA de Google estaba programada para sobrerepresentar a las minorías. Las IAs son un reflejo de nosotros mismos.

Hoy día el hardware está limitando el feroz avance de las IAs porque son devoradores de recursos, por ahora. NVIDIA una de las mayores empresas desarrolladoras de hardware se subió al tren de la Inteligencia Artificial, de la nada pasó a ser la cuarta empresa más valiosa del mundo, ya lo dijo su CEO, “No aprendas a programar, la IA se encargará de todo”. Es cuestión de tiempo, menos de lo que imaginamos.

En definitiva, éste es un videojuego de aventura gráfica o novela gráfica bastante bien logrado por parte de Fullbright que personalmente me dejó pensando más allá de su historia y me empujó a hacer un guion que se me fue de las manos.

Muchas preguntas quedaron sin responder en Tacoma, porque nos deja esa sensación de que la historia sigue;

¿Dónde está ODÍN ahora? ¿A dónde va una IA después de ser liberada?

Espero que este vídeo te haya gustado. Si fuera por la IA de YouTube te diría que le des “me gusta” y te suscribas para alimentar al algoritmo para que este canal siga creciendo, pero no te voy a pedir eso porque yo, yo no soy una IA.

¿Ó sí?