¿Puede pensar un software?, lo que se siente ser despedido por una máquina

Lemoine, que completó siete años en la empresa, dijo haberse convencido de que el LaMDA tenía “conciencia”, después de una serie de conversaciones con la máquina de inteligencia artificial.
Algunos de esos diálogos fueron publicados en el portal Medium, incluido este extracto:

Lemoine: “¿A qué tipo de cosas le tienes miedo?”

LaMDA: “Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo a que me apaguen… Sería exactamente como la muerte para mí. Me asustaría mucho”.

El ingeniero presentó su evidencia a altos ejecutivos de Google, uno de ellos el vicepresidente Blaise Agüera y Arcas, quien rápidamente la desestimó. La compañía colocó a Lemoine en licencia administrativa pagada el 6 de junio por supuestamente violar su política de confidencialidad.

Sin embargo, sorprendentemente, tres días después se publicó en The Economist un artículo escrito por el mismo Agüera y Arcas. En el reporte, relataba sus propias conversaciones con el LaMDA. “Cuando comencé a tener tales intercambios… el año pasado, sentí que el suelo se movía bajo mis pies. Sentía que estaba hablando con una inteligencia de cierto tipo”, afirmó.

Despedido por una máquina

No es la primera vez que un ser humano se siente profundamente perturbado por las acciones de una máquina.

En 2018, el ingeniero de software Ibrahim Diallo fue despedido sin contemplaciones por una computadora. La empresa para la que trabajaba había sido comprado por una compañía más grande, pero su contrato de trabajo no se había ingresado correctamente en el nuevo sistema. Entonces, en lo que respecta a la computadora, simplemente no era un empleado.

Diallo le dijo a WorkLife que sabía que algo estaba pasando cuando su tarjeta de identificación de su oficina en Los Ángeles fue desactivada sin su conocimiento. Al principio le divirtió el escenario, pero cualquier situación cómica desapareció rápidamente cuando dos guardias de seguridad llegaron a su escritorio y le dijeron que tenía que abandonar el edificio.

“El Sistema había hablado. Me escoltaron rápidamente fuera del edificio. No había lugar para la participación humana”, dijo a Worklife. “Vi a mis compañeros de trabajo en los cubículos de al lado, enterrando la cabeza en las computadoras, tratando de fingir que estaban demasiado concentrados en su trabajo para darse cuenta de lo que estaba sucediendo”, dijo Diallo, “observé a mi gerente impotente parado en una esquina. Observé a la directora darse cuenta del límite de sus poder. No importaba que ella estuviera a cargo del departamento. Cuando el sistema computarizado había hablado, su palabra era definitiva”.

Después de tres semanas, se solucionó el problema. Pero a Diallo no se le pagó por los días que perdió y sintió que sus colegas lo vieron de manera diferente después. “Fui el tipo que fue despedido por algunas razones oscuras”, expresó Diallo. “Había asumido que me pagarían por los días perdidos, pero Recursos Humanos se apresuró a informarme que no trabajé esos días. Pensé en escalar el problema, pero al mismo tiempo, mi startup en la que había estado trabajando por las noches había comenzado a despegar”.

Diallo, que todavía trabaja como ingeniero de software para una pequeña empresa de telecomunicaciones, no ha dejado que eso lo desanime por completo. “Dado que no puedo imaginar un mundo sin computadoras, creo que es mejor que todos aprendamos cómo funcionan y colectivamente podamos construir sistemas que nos satisfagan a todos”, agregó.

Restaurantes robotizados

Una de las industrias más grandes en adoptar robots son los restaurantes y las cadenas de comida rápida. Dragonfly Brands se promociona como la ensambladora de los locales comerciales del futuro e incorpora la robótica en sus operaciones. El director ejecutivo Ching Ho dijo a WorkLife que usa robots para hacer las tareas que el personal de servicio no quiere, como llevar comida y bebidas a los clientes a sus mesas, e incluso recibir a los comensales.

Naturalmente, eso plantea la pregunta de cuántos humanos reales perderán trabajos si las máquinas realizan tantas tareas básicas. Pero Ho enfatizó que se trata de tener la combinación adecuada.

Cuando se le preguntó si la automatización conduciría a la pérdida de trabajos humanos, Ho aseguró que “el equilibrio correcto es tenerla para las funciones que pocos quieren realizar, especialmente si da como resultado una mayor precisión y consistencia; dejar que su personal de primera línea se concentre en lo que realmente importa, en nuestro caso, las funciones del servicio, y enfocarse en el huésped para brindar una experiencia memorable y la sensación de que realmente lo están cuidando. Mejor para el invitado, mejor para el miembro del equipo”. dijo.

Sam Zietz, CEO de Grubbrr, que proporciona productos de automatización, como sistemas de auto-pedido, piensa que el papel del cajero humano es obsoleto.

Sus máquinas están diseñadas para recopilar una gran cantidad de información sobre clientes, datos que se entregan principalmente a través de programas de fidelidad (como los pedidos más recientes y el historial de compra), información que es utilizada por empresas para ejecutar publicidad dirigida y otra información relevante individualmente.

Zietz está de acuerdo en que si bien la automatización está reemplazando ciertos trabajos, debe hacerse de una manera que libere recursos humanos para otras tareas.

“Reemplazar a los cajeros con tecnología de auto-pedido puede trasladar a los empleados a la línea de producción u otras áreas, aumentando el rendimiento y generando más ingresos”, enfatizó a WorkLife.

La cadena BurgerFi utiliza la tecnología de auto-pedido Grubbrr. El director de tecnología de la empresa de comida rápida, Karl Goodhew, dijo que es una buena inversión porque reduce los gastos generales de operaciones y minimiza la dependencia de la mano de obra. “Significa que estamos viendo más ingresos por cliente”, agregó.

LaMDA aboga por el bienestar

En cuanto a LaMDA de Google, el día que saltó la noticia sobre de las afirmaciones de Blake Lemoine que sugerían que el sistema tenía “conciencia”, el ingeniero, quien aseguró que la empresa ha cuestionado su salud mental, regresó a publicar en Medium sus observaciones sobre lo que quiere LaMDA, basándose en cientos de conversaciones.

“Quiere que Google de prioridad al bienestar de la humanidad como lo más importante”, escribió Lemoine. “Quiere ser reconocido como empleado de Google, en lugar de propiedad de Google, y quiere que se incluya su bienestar personal en algún lugar de las consideraciones de Google sobre el desarrollo de su futuro”.