A medida que avanza rápidamente la inteligencia general artificial (AGI), la conversación está cambiando del debate filosófico a uno de relevancia práctica, con inmensas oportunidades para transformar las empresas globales y el potencial humano.
La serie de eventos AGI Icons de Turing reúne a los innovadores de IA para discutir los avances prácticos y responsables de las soluciones AGI. El 24 de julio, Turing organizó nuestro segundo evento AGI Icons en Shack15, el centro exclusivo de San Francisco para empresarios e innovadores tecnológicos. Moderada por Anita Ramaswamy, columnista financiera de la información, me senté con el CEO de Quora, Adam D’Angelo para discutir el camino hacia AGI y compartir ideas sobre los plazos de desarrollo, las aplicaciones del mundo real y los principios para el despliegue responsable.
El camino de AI a Agi
La «Estrella del Norte» que impulsa la investigación de IA es la búsqueda de la «inteligencia» a nivel humano. Lo que separa la AGI de la IA estándar es su progresión más allá de la funcionalidad estrecha hacia una mayor generalidad (amplitud) y rendimiento (profundidad), incluso excediendo las capacidades humanas.
Este es «el camino hacia AGI», donde la IA progresa a sistemas más autónomos, razonamiento superior, capacidades mejoradas y mejoras mejoradas. Estas progresiones se dividen en cinco niveles taxonómicos:
- Nivel 0: No AI – herramientas simples como calculadoras
- Nivel 1: AGI emergente – LLM actuales como chatgpt
- Nivel 2: Sistemas AGI competentes que coinciden con adultos calificados en tareas específicas
- Nivel 3: AGI experto – Sistemas de IA en el percentil 90 de adultos calificados
- Nivel 4: Virtuoso AGI – AI Systems en el percentil 99
- Nivel 5: AGI sobrehumano – sistemas de IA que superan a todos los humanos
Fuente
Durante nuestra discusión, Adam definió el concepto de AGI como «software que puede hacer todo lo que un humano puede hacer». Él imagina un futuro en el que la IA mejora a sí misma, y finalmente se hace cargo de complejas tareas humanas manejadas por investigadores de aprendizaje automático.
Dando esto un paso más allá, comparé mis puntos de vista sobre AGI con el de un «cerebro artificial» capaz de diversas tareas como «traducción automática, consultas complejas y codificación». Esa es la distinción entre AGI y AI más predictiva y formas estrechas de ML que vinieron antes. Se siente como un comportamiento emergente.
Crímenos de desarrollo realistas en el camino a AGI
Al igual que en un viaje por carretera, la pregunta de Top of-Mind sobre AGI es: «¿Ya estamos allí?» La respuesta corta es no, pero como la investigación de IA acelera la pregunta correcta para hacer es: “¿Cómo podemos equilibrar a AGI? ambición con Expectativas realistas? «
Adam destacó que el aumento de la automatización de AGI cambiará los roles humanos en lugar de eliminarlos, lo que lleva a un crecimiento económico más rápido y una productividad más eficiente. «A medida que esta tecnología se vuelva más poderosa, llegaremos a un punto en el que el 90% de lo que la gente está haciendo hoy está automatizado, pero todos habrán cambiado a otras cosas».
Actualmente, gran parte de la economía mundial está limitada por el número de personas disponibles para trabajar. Una vez que logramos AGI, podemos hacer crecer la economía a un ritmo mucho más rápido de lo que es posible hoy.
No podemos dar una línea de tiempo definitiva para cuándo se realizará el verdadero AGI, pero Adam y yo citamos varios casos de avances de IA dando paso a futuras progresiones de AGI. Por ejemplo, los experimentos de Turing con herramientas de desarrollador de IA mostraron un aumento del 33% en la productividad del desarrollador, insinuando un potencial aún mayor.
Aplicaciones y efectos del mundo real
Una de las aplicaciones más prometedoras de AGI se encuentra en el campo del desarrollo de software. Los modelos de idiomas grandes (LLM), un precursor de AGI, ya se están utilizando para mejorar el desarrollo de software y mejorar la calidad del código. Veo esta era de IA como más cercana a la biología que la física, donde mejorará todo tipo de trabajo de conocimiento. Habrá mucha más productividad desbloqueada de y para la humanidad.
Mi perspectiva proviene de la experiencia, donde he sido testigo de un aumento de productividad personal de 10 veces al usar LLMS y herramientas de desarrolladores de IA. También estamos utilizando AI en Turing para evaluar el talento técnico y coincidir con los ingenieros de software correctos y los expertos en dominio de nivel de doctorado con los trabajos correctos.
Lo que estoy viendo en el espacio de entrenamiento de LLM, por ejemplo, es que los entrenadores aprovechan estos modelos para mejorar la productividad del desarrollador y acelerar los plazos del proyecto. Al automatizar tareas de codificación de rutina y proporcionar sugerencias de código inteligentes, LLMS libera a los desarrolladores para centrarse en aspectos más estratégicos y creativos de su trabajo.
Adam cerró: «» LLMS no escribirá todo el código, pero la comprensión de los fundamentos del software sigue siendo crucial. Las calculadoras no eliminaron la necesidad de aprender aritmética «. Agregó: “Los desarrolladores se vuelven más valiosos al usar estos modelos. La presencia de LLM es positiva para los trabajos de desarrolladores y habrá muchas ganancias para los desarrolladores «.
Estamos entrando en una era dorada de desarrollo de software donde un ingeniero de software puede ser 10 veces más productivo, crear más y beneficiar al mundo.
Desafíos técnicos y de gobierno
A pesar del prometedor potencial de AGI, se deben abordar los desafíos. Los procesos de evaluación sólidos y los marcos regulatorios son necesarios para equilibrar la innovación AGI con seguridad pública.
Adam enfatizó la necesidad de pruebas exhaustivas y sandboxing para limitar los peores escenarios. «Desea tener algún tipo de proceso de evaluación robusto … y obtener esa distribución con la que está probando para estar lo más cerca posible del uso del mundo real».
Y estoy de acuerdo. El cuello de botella para el progreso de AGI ahora es la inteligencia humana, en lugar de calcular la potencia o los datos. La experiencia humana es crucial para ajustar y personalizar modelos de IA, por lo que Turing se centra en obtener y hacer coincidir profesionales de la tecnología de primer nivel para equilibrar los modelos con inteligencia humana.
Debemos abordar los desafíos AGI de frente centrándonos en las capacidades sobre los procesos, la generalidad y el rendimiento, y el potencial.
Perspectivas sobre los desafíos: mejorar las interacciones humanas-agi
Algunas de las mejores prácticas para abordar los desafíos AGI incluyen:
- Concéntrese en las capacidades o «lo que AGI puede hacer» en lugar de los procesos o «cómo lo hace».
- Balance de la generalidad y el rendimiento como componentes esenciales de AGI.
- Concéntrese en tareas cognitivas/metacognitivas y habilidades de aprendizaje sobre tareas/resultados físicos.
- Medir AGI por su potencial y capacidades.
- Concéntrese en la validez ecológica alineando puntos de referencia con las tareas del mundo real valoran las personas.
- Recuerde que el camino hacia AGI no es un único punto final, es un proceso iterativo.
Además de estas mejores prácticas, Adam y yo enfatizamos la importancia de mejorar las interacciones humanas-AGI. Adam enfatizó el valor de aprender cómo y cuándo usar estos modelos, viéndolos como poderosas herramientas de aprendizaje que pueden enseñar rápidamente cualquier subdominio de programación al tiempo que enfatiza la importancia de comprender los fundamentos.
Del mismo modo, sugiero que hacer de cada humano un usuario de energía de LLM podría mejorar significativamente la productividad y la comprensión en varios campos. Los LLM pueden hacer que la información compleja sea accesible para todos, mejorando la productividad en varios campos. Pero requiere un enfoque iterativo en fases: comenzando con copilotos de IA que ayudan a los humanos, luego se mudó a agentes con supervisión humana y, finalmente, logran agentes totalmente autónomos en tareas bien evaluadas.
Con eso, la diferenciación posterior al entrenamiento es crítica, que implica ajuste fino supervisado (SFT) y aprovechando la inteligencia humana para construir modelos personalizados. Las empresas que pueden obtener y coincidir con entrenadores, ingenieros y otros acelerarán sus capacidades de ingeniería personalizadas y de ajuste. La colaboración con compañías líderes como OpenAi y Anthrope, también son clave para aplicar estos modelos en diversas industrias.
Principios de desarrollo de AGI responsable
«El desarrollo AGI debe ser responsable y ético, asegurando la seguridad y la transparencia al tiempo que fomentan la innovación». – Adam D’Angelo
El desarrollo responsable de AGI requiere adherirse a varios principios básicos:
- Seguridad y seguridad: garantizar que los sistemas AGI sean confiables y resistentes al mal uso, especialmente a medida que los modelos se escalan para acomodar nuevas entradas o algoritmos de datos.
- Transparencia: ser realista sobre las capacidades, limitaciones y «cómo funciona».
- Consideraciones éticas: abordar la equidad, el sesgo y cómo AGI afectará el empleo y otros factores socioeconómicos.
- Regulación: Trabajar con gobiernos y otras organizaciones para desarrollar marcos equilibrando el progreso con la seguridad pública.
- Benchmarking: los puntos de referencia futuros deben cuantificar el comportamiento y las capacidades de AGI contra las consideraciones éticas y los niveles de taxonomía.
Conclusión: Centrarse en el camino hacia AGI, no un solo punto final
El camino hacia AGI es complejo, pero cada parada en el camino es importante para el viaje. Al comprender las mejoras iterativas de AGI, junto con sus implicaciones, las personas y las empresas podrán adoptar de manera responsable esta tecnología en evolución. Este es el quid del desarrollo de AGI responsable, donde la interactividad del mundo real informa cómo navegamos por esta nueva frontera.