Inteligencia Artificial en nuestro día a día profesional

I - PAREN TODO, ES MUY DEEP ESTE LEARNING

Fue publicada recientemente, una carta abierta titulada “Pausar experimentos gigantes de IA: una carta abierta”, donde se realiza un impactante llamado a todos los laboratorios de Inteligencia Artificial (IA) para que pausen inmediatamente durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4.

Dicha misiva virtual, es autoría del Future of Life Institute (una organización sin fines de lucro que tiene por misión dirigir la tecnología transformadora para beneficiar la vida y alejarla de los riesgos extremos a gran escala), la que se encuentra suscripta por reconocidos expertos en IA, como Elon Musk, el consejero delegado de Stability AI, Emad Mostaque, investigadores de DeepMind -Alphabet-, el cofundador de Apple, Steve Wozniak, el profesor Yuval Noah Harari y referentes del sector como Yoshua Bengio o Stuart Russell, entre otros.

En la referida publicación se menciona que los sistemas de IA con inteligencia humana competitiva pueden plantear riesgos profundos para la sociedad y la humanidad, sosteniendo que la IA avanzada podría representar un cambio en la historia de la vida en la Tierra y nuestra civilización. Arriban a estas conclusiones basándose en numerosos estudios científicos y manifestaciones como las del CEO de OpenAI, la compañía creadora de ChatGPT: “Estoy particularmente preocupado de que estos modelos puedan usarse para la desinformación a gran escala … Creo que la sociedad tiene una cantidad limitada de tiempo para descubrir cómo reaccionar ante eso, cómo regularlo, cómo manejarlo … Tenemos que tener cuidado aquí".

La pausa propuesta, expresan, tiene por fin que los laboratorios de IA y los expertos independientes puedan aprovechar la misma para desarrollar e implementar conjuntamente protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA que sean rigurosamente auditados y supervisados por expertos externos independientes. 

A su vez, se pide que estos protocolos tengan la capacidad de garantizar que los sistemas que se adhieren a ellos sean seguros más allá de toda duda razonable. 

Aclarando que esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atrás

de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes.

Particularmente resulta alarmante para el campo de “las leyes” y el Estado de Derecho cuando sostienen que: “…los desarrolladores de IA deben trabajar con los legisladores para acelerar drásticamente el desarrollo de sistemas sólidos de gobierno de IA. Estos deben incluir como mínimo: autoridades reguladoras nuevas y capaces dedicadas a la IA; supervisión y seguimiento de sistemas de IA de alta capacidad y grandes conjuntos de capacidad computacional; sistemas de procedencia y marcas de agua para ayudar a distinguir las fugas reales de las sintéticas y rastrear modelos; un sólido ecosistema de auditoría y certificación; responsabilidad por daños causados por IA; financiación pública sólida para la investigación técnica de seguridad de la IA; e instituciones bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente en la democracia) que provocará la IA.”

Nos encontramos transitando un tiempo de cambio por el impacto de esta nueva tecnología (o conjunto de ellas), hasta el momento presenciábamos como los diferentes autores y científicos discutían qué tipo de tecnología era suficiente para poder denominarse como “inteligente”, 

sobre todo en su gran mayoría sosteniéndose que muchos de los softwares no alcanzaban dicho status porque no eran realmente autónomos, difiriéndose su real impacto para el momento que exista una verdadera Inteligencia Artificial General. ¿Ha llegado ese momento?

Este pedido de freno temporal de avance, también se realiza fundado en antecedentes similares acontecidos en nuestra civilización,

nombrando como ejemplos de ello cuando se experimentaba con la clonación humana, la modificación de la línea germinal humana, la mutación genética y la eugenesia. 

Lo que también nos ayuda a dimensionar la magnitud de disrupción en cuanto a lo que estamos tratando.

Personalmente, entiendo que verdaderamente la “autonomía” es el baremo a la hora de analizar realmente la presunta “inteligencia”, ahora bien, entiendo que dicha autonomía no debe ser vista de manera estática en un momento determinado, sino sopesarlo con su potencialidad futura, sobre todo a la hora de efectuar su regulación para establecer límites que protejan nuestros derechos. 

Si bien la IA “estrecha”, que realiza tareas aisladas, ya está impactando fuertemente en nuestra sociedad global, este nuevo escalón que se vislumbra con esta carta de especialistas, nos da la pauta que la antedicha potencialidad ha crecido, concretizándose, haciendo que la IA General pueda ser en el corto/mediano plazo una realidad, inclusive la Augmented General Intelligence (AGI por su siglas en inglés) que mezcla la computación cuántica, el deep learning y un entendimiento de nuestras capacidades cognitivas y nuestras emociones.

Para acceder al texto completo del artículo, SIN CARGO, hace clic aquí