12 Jun El debate permanente sobre Ética e IA
El debate sobre ética e inteligencia artificial (IA) es permanente y complejo. Con el rápido avance de esta tecnología, surgen preguntas sobre su impacto y las implicaciones éticas que conlleva.
David Luxton, Catedrático en Psicología Clínica en la Universidad de Washington, expresó en el CES: “Con cualquier nueva tecnología, siempre tenemos que pensar en lo que vendrá después. Pero la IA avanza tan rápido que es difícil comprender hasta qué punto va a cambiar las cosas”.
Este dilema se ha intensificado con el desarrollo del nuevo modelo fundacional de IA de OpenAI, que es mucho más poderoso que los anteriores. Este avance tecnológico ha generado controversias internas en la compañía, incluyendo la salida y el regreso de su CEO el pasado año. Según OpenAI, este modelo aportará “el siguiente nivel de capacidades”, en su misión de construir una “inteligencia general artificial”, una máquina capaz de replicar las habilidades cognitivas del cerebro humano.
Desafíos éticos y sociales
Uno de los problemas más visibles de la IA hoy es la presencia de sesgos y la falta de calidad en el contenido generado. Sin embargo, existen muchos otros desafíos relacionados con esta tecnología que abarcan desde la libertad y la dignidad, hasta la privacidad y la protección de datos. También se incluyen la igualdad, la diversidad, la equidad, la justicia social y los derechos laborales.
Marcelo Gleiser, catedrático de Filosofía Natural, Física y Astronomía de la Universidad de Darmouth, reflexiona sobre esta cuestión. “Como sigue demostrando la historia, la ciencia aplicada tiende a servir a los intereses de quienes detentan el poder. De ahí vienen las decisiones. Para fomentar ese cambio, necesitamos implantar un código ético biocéntrico que se filtre por todos los sectores de la sociedad, desde las escuelas primarias hasta los consejos de administración de las empresas.
La preservación y celebración de la vida, y no la codicia, debería ser nuestro principal valor a la hora de tomar decisiones”.
La IA en el mundo real
Un ejemplo reciente de los desafíos prácticos de la IA se puede ver en el nuevo sistema de búsqueda potenciado por inteligencia artificial de Google. La compañía prometió que «Google hará la búsqueda por ti» con su nueva función llamada AI Overviews, la cual ofrece resúmenes generados por IA destacando información clave y enlaces en la parte superior de los resultados de búsqueda.
Desafortunadamente, los sistemas de IA son inherentemente poco fiables. Después de su lanzamiento en EE.UU., los usuarios compartieron ejemplos de respuestas que eran, en el mejor de los casos, extrañas. Sugería añadir pegamento a la pizza o comer al menos una pequeña roca al día.
Liz Reid, jefa de Google Search, anunció que la compañía está realizando mejoras técnicas al sistema para que sea menos probable que genere respuestas incorrectas, incluyendo mejores mecanismos de detección para consultas sin sentido. También están limitando la inclusión de contenido satírico, humorístico, generado por usuarios en las respuestas, ya que dicho material podría resultar engañoso.
La complejidad de los modelos de IA
Para entender por qué los motores de búsqueda impulsados por IA cometen errores, es necesario examinar cómo han sido optimizados para funcionar.
AI Overviews utiliza un nuevo modelo de IA generativa de la familia Gemini de Google, diseñado específicamente para Google Search. Este modelo ha sido integrado con los sistemas centrales de clasificación web de Google y está diseñado para extraer resultados relevantes de su índice de sitios web.
La complejidad y el poder de estos modelos de IA, aunque prometedores, también plantean serias cuestiones sobre su fiabilidad y seguridad. La misión de instituciones como MIT Technology Review es ayudar a desentrañar el complejo y confuso mundo de la tecnología para ayudar a comprender qué viene después. Puedes leer más sobre estos temas en su sitio web.