venturebeathace 108d
La mayoría de la gente no aprecia la profunda amenaza que pronto representará la IA para la acción humana. Un estribillo común es que “la IA es sólo una herramienta” y, como cualquier herramienta, sus beneficios y peligros dependen de cómo la use la gente. Este es el pensamiento de la vieja escuela. La IA está pasando de las herramientas que utilizamos a las prótesis que usamos. Esto creará nuevas e importantes amenazas para las que simplemente no estamos preparados. No, no me refiero a espeluznantes implantes cerebrales. Estas prótesis impulsadas por IA serán productos convencionales que compraremos en Amazon o Apple Store y comercializaremos con nombres amigables como "asistentes", "entrenadores", "copilotos" y "tutores". Proporcionarán un valor real a nuestras vidas, hasta el punto de que nos sentiremos en desventaja si otros los usan y nosotros no. Esto creará una rápida presión para una adopción masiva. Los dispositivos protésicos a los que me refiero son “dispositivos portátiles impulsados por IA”, como gafas, colgantes, pines y auriculares inteligentes. Su IA portátil verá lo que usted ve y escuchará lo que escuche, todo mientras rastrea dónde se encuentra, qué está haciendo, con quién está y qué está tratando de lograr. Luego, sin que usted necesite decir una palabra, estas ayudas mentales le susurrarán consejos al oído o mostrarán una guía ante sus ojos. La diferencia entre una herramienta y una prótesis puede parecer sutil, pero las implicaciones para la acción humana son profundas. Esto se comprende mejor mediante un simple análisis de entradas y salidas. Una herramienta toma la aportación humana y genera resultados amplificados. Una herramienta puede hacernos más fuertes, más rápidos o permitirnos volar. Una prótesis mental, por otro lado, forma un circuito de retroalimentación alrededor del ser humano, aceptando información del usuario (al rastrear sus acciones e involucrarlas en una conversación) y generando resultados que pueden influir inmediatamente en el pensamiento del usuario. Este circuito de retroalimentación lo cambia todo. Esto se debe a que los dispositivos de inteligencia artificial que se llevan en el cuerpo podrán monitorear nuestros comportamientos y emociones y podrían usar estos datos para convencernos de creer cosas que no son ciertas, comprar cosas que no necesitamos o adoptar puntos de vista que de otro modo nos daríamos cuenta de que no son lo mejor para nosotros. Esto se llama el problema de la manipulación de la IA y no estamos preparados para los riesgos. Este es un tema urgente porque las grandes tecnológicas están compitiendo para llevar estos productos al mercado. ¿Por qué son tan peligrosos los circuitos de retroalimentación? En el mundo actual, todos los dispositivos informáticos se utilizan para desplegar una influencia específica en nombre de los patrocinadores que pagan. Es probable que los productos portátiles de IA continúen con esta tendencia. El problema es que a estos dispositivos se les podría asignar fácilmente un “objetivo de influencia” y encargarles la tarea de optimizar su impacto en el usuario, adaptando sus tácticas de conversación para superar cualquier resistencia que detecten. Esto transforma el concepto de influencia dirigida de los perdigones de las redes sociales en misiles buscadores de calor que navegan hábilmente más allá de sus defensas. Y, sin embargo, los formuladores de políticas no aprecian este riesgo. Desafortunadamente, la mayoría de los reguladores todavía ven el peligro de la IA en términos de su capacidad para generar rápidamente formas tradicionales de influencia (deepfakes, noticias falsas, propaganda). Por supuesto, estas son amenazas importantes, pero no son tan peligrosas como la influencia interactiva y adaptativa que pronto podría desplegarse ampliamente a través de agentes conversacionales, especialmente cuando esos agentes de IA viajan con nosotros a lo largo de nuestras vidas dentro de dispositivos portátiles. Esto llegará pronto Meta, Google y Apple están compitiendo para lanzar productos de IA portátiles lo más rápido posible. Para proteger al público, los formuladores de políticas deben abandonar su marco de “uso de herramientas” al regular los dispositivos de IA. Esto es difícil porque la metáfora del uso de herramientas se remonta a 35 años atrás, cuando Steve Jobs describió coloridamente la PC como una “bicicleta de la mente”. Una bicicleta es una herramienta poderosa que mantiene al ciclista firmemente en control. La IA portátil le dará la vuelta a esta metáfora, haciéndonos preguntarnos quién dirige la bicicleta: ¿el ser humano, los agentes de IA que susurran al oído de los humanos o las corporaciones que desplegaron a los agentes? Creo que será una combinación peligrosa de los tres. Además, es probable que los usuarios confíen en las voces de la IA en sus cabezas más de lo que deberían. Esto se debe a que estos agentes de IA nos brindarán información y consejos útiles a lo largo de nuestra vida diaria: educándonos, recordándonos, entrenándonos e informándonos. El problema es que es posible que no seamos capaces de distinguir cuándo el agente de IA ha cambiado su objetivo de ayudarnos a influirnos. Para apreciar la diferencia, puede ver el cortometraje premiado Privacy Lost (2023) sobre los peligros de los dispositivos portátiles con tecnología de inteligencia artificial. Esto es especialmente cierto cuando los dispositivos incluyen funciones invasivas como el reconocimiento facial (que, según se informa, Meta está agregando a sus gafas). ¿Qué podemos hacer para proteger al público? En primer lugar, los formuladores de políticas deben darse cuenta de que la IA conversacional permite una forma completamente nueva de medios que son interactivos, adaptables, individualizados y cada vez más conscientes del contexto. Esta nueva forma de medio funcionará como “influencia activa”, porque puede ajustar sus tácticas en tiempo real para superar la resistencia de los usuarios. Cuando se implementan en dispositivos portátiles, estos sistemas de inteligencia artificial podrían diseñarse para manipular nuestras acciones, influir en nuestras opiniones e influir en nuestras creencias, y hacerlo todo a través de un diálogo aparentemente casual. Peor aún, estos agentes aprenderán con el tiempo qué tácticas conversacionales funcionan mejor en cada uno de nosotros a nivel personal. El hecho es que no se debe permitir que los agentes conversacionales formen círculos de control alrededor de los usuarios. Si esto no se regula, la IA podrá influir en nosotros con una persuasión sobrehumana. Además, se debe exigir a los agentes de IA que informen a los usuarios cada vez que pasen a expresar contenido promocional en nombre de un tercero. Sin tales protecciones, los agentes de IA probablemente se volverán tan persuasivos que harán que las técnicas de influencia dirigidas actuales parezcan pintorescas. Louis Rosenberg es un pionero de la realidad aumentada y un investigador de IA desde hace mucho tiempo. Obtuvo su doctorado en Stanford, fue profesor en la Universidad Estatal de California y fue autor de varios libros sobre los peligros de la IA, incluidos Arrival Mind y Our Next Reality.