- Meredith Whittaker asegura que los chatbots carecen de conciencia y no deben ser tratados como interlocutores con sentimientos.
- La integración masiva de asistentes de IA en servicios personales supone un riesgo de seguridad similar a una puerta trasera.
- Delegar tareas intelectuales en modelos generativos podría empobrecer la capacidad de pensamiento crítico y creativo.
- Signal mantiene su apuesta por la minimización de datos frente al modelo extractivo de las grandes tecnológicas.
Parece que últimamente nos han vendido la moto con que los asistentes de inteligencia artificial son casi como un colega más al que confiarle nuestras dudas. Sin embargo, Meredith Whittaker, la presidenta de Signal, ha salido a la palestra para darnos un toque de atención bastante serio, recordando que herramientas como ChatGPT o Claude no tienen sentimientos ni son seres conscientes en absoluto, por mucho que su forma de escribir nos haga creer lo contrario.
Esta advertencia no es moco de pavo, ya que Whittaker señala que la creciente costumbre de tratar a estas máquinas como confidentes puede nublar nuestro juicio. La jefa de la conocida aplicación de mensajería segura tiene claro que, aunque estas herramientas son capaces de procesar datos a mansalva, no son tus amigos ni interlocutores sintientes, y delegar en ellas nuestra privacidad es un riesgo que nos puede salir muy caro a largo plazo.
La IA no es tu confidente ni tiene sentimientos
Durante varias intervenciones recientes, la presidenta de Signal ha puesto los puntos sobre las íes respecto al vínculo emocional que muchos usuarios están creando con los chatbots. Para ella, el lenguaje que usamos para describir nuestra relación con la tecnología es fundamental, y advierte que no debemos confundir la simulación de una charla humana con una conexión real basada en la empatía o el entendimiento mutuo, algo de lo que estos sistemas carecen por completo.
A pesar de que Whittaker reconoce que usa la IA para tareas muy mecánicas, como darle formato a algún documento de vez en cuando, se niega rotundamente a dejar que estas herramientas piensen por ella. La razón es bastante sencilla: considera que el proceso de desarrollar una idea es algo muy serio y no quiere que su capacidad de redacción y pensamiento propio acabe eclipsada por respuestas automáticas que, al fin y al cabo, solo promedian información que ya pulula por internet.
Esta postura también toca un tema que preocupa a muchos expertos en Europa: la posibilidad de que el uso excesivo de estas herramientas acabe por empobrecer el criterio propio. Si nos acostumbramos a que una máquina nos dé la respuesta masticada, corremos el peligro de que nuestro juicio crítico se oxide, especialmente cuando los modelos de lenguaje no tienen una relación fiable con los hechos reales y pueden inventarse datos con una naturalidad pasmosa.
El peligro de la integración total y la puerta trasera
Uno de los puntos que más ampollas ha levantado es la crítica a la integración de asistentes como Copilot en la vida diaria. Whittaker pone el grito en el cielo ante la idea de que una IA se encargue de nuestras compras o gestione nuestra agenda, ya que eso implicaría darle acceso total a tarjetas bancarias, historiales de navegación y hasta la capacidad de enviar mensajes en nuestro nombre a familiares y amigos.
Para los que nos preocupa la seguridad digital, este escenario se parece sospechosamente a una vulnerabilidad técnica. La directiva sostiene que permitir que un sistema escuche chats grupales para inferir qué regalos comprar constituye una especie de puerta trasera que revienta cualquier protocolo de privacidad, puesto que la comodidad del usuario se basa en una estructura de vigilancia constante y extremadamente intrusiva.
Mientras gigantes del sector apuestan por recopilar cuantos más datos mejor para entrenar sus modelos, Signal se mantiene en sus trece con una filosofía totalmente opuesta. La aplicación busca reducir al mínimo la información que guarda de sus usuarios, lo que choca frontalmente con el paradigma del big data dominante en Silicon Valley, donde la transparencia suele brillar por su ausencia cuando se trata de saber qué se hace con nuestros metadatos.
Al final, lo que Whittaker nos viene a decir es que la verdadera privacidad consiste en no dar manga ancha a los asistentes inteligentes con nuestra información más sensible. Mantener a raya a estos sistemas y utilizarlos únicamente como herramientas técnicas puntuales es la mejor forma de asegurar que nuestra identidad digital no quede expuesta ante los intereses de las grandes corporaciones tecnológicas que buscan controlar cada paso que damos en la red.
