Plugins en ChatGPT

23 de marzo de 2023

Los plugins en ChatGPT

Siguiendo su filosofía de implementación iterativa, ChatGPT está introduciendo gradualmente plugins para estudiar su uso, impacto y desafíos de seguridad y alineación en el mundo real. Los usuarios han solicitado plugins desde el lanzamiento de ChatGPT, ya que estos desbloquean una amplia gama de posibles casos de uso. La implementación comenzará con un pequeño grupo de usuarios, con planes de expandirse a medida que se obtenga más información.

El objetivo es construir una comunidad que moldee el futuro de la interacción humano-AI. Los desarrolladores de plugins invitados de la lista de espera pueden utilizar la documentación proporcionada para crear plugins para ChatGPT. Los primeros plugins han sido creados por empresas como ChatGPT, Expedia, FiscalNote , Instacart, KAYAK, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram, Zapier.

Plugins desarrollados por ChatGPT

ChatGPT también está alojando dos plugins propios: un navegador web y un intérprete de código. Además, han compartido el código fuente de un plugin de recuperación de base de conocimientos, que puede ser alojado por cualquier desarrollador que desee mejorar ChatGPT con información adicional.

Acceso alfa para usuarios y desarrolladores

A partir de hoy, se extenderá el acceso alfa a los plugins a usuarios y desarrolladores de la lista de espera. Aunque inicialmente se priorizará a un pequeño número de desarrolladores y usuarios de ChatGPT Plus, se planea implementar un acceso a mayor escala con el tiempo.

Beneficios y limitaciones de los modelos de lenguaje actuales

Los modelos de lenguaje actuales, aunque útiles para diversas tareas, aún tienen limitaciones. Solo pueden aprender de los datos de entrenamiento, lo que puede resultar en información desactualizada o genérica. Además, los modelos de lenguaje sólo pueden emitir texto, lo que requiere otro proceso para seguir las instrucciones proporcionadas.

Plugins como «ojos y oídos» para los modelos de lenguaje

Aunque no es una analogía perfecta, los plugins pueden funcionar como «ojos y oídos» para los modelos de lenguaje, proporcionándoles acceso a información reciente, personal o específica que no está incluida en los datos de entrenamiento. En respuesta a una solicitud explícita del usuario, los plugins también pueden permitir que los modelos de lenguaje realicen acciones seguras y controladas en su nombre, aumentando la utilidad del sistema en general.

Se espera que los estándares abiertos desempeñen un papel importante en el desarrollo de estos plugins, permitiendo una mayor colaboración y crecimiento en el campo de la interacción humano-AI.

Imagen de Ejemplo Plugins en ChatGPT / OpenAI

Nos hemos preguntado:

¿Cómo se asegura ChatGPT de que el código generado por la IA no tenga efectos secundarios no deseados en el mundo real?

ChatGPT se asegura de que el código generado por la IA no tenga efectos secundarios no deseados en el mundo real mediante la ejecución del código en un entorno seguro y controlado, con estrictos controles de red para evitar el acceso a Internet desde el código ejecutado. Además, se han establecido límites de recursos en cada sesión y se han implementado salvaguardas de seguridad para restringir los comportamientos de los plugins que podrían ser riesgosos y mejorar la transparencia de cómo y cuándo operan como parte de la experiencia del usuario. También se han realizado ejercicios de red-teaming para identificar posibles escenarios preocupantes y se están utilizando estos hallazgos para informar las mitigaciones de seguridad por diseño. Además, se está desplegando gradualmente el acceso a los plugins y se invita a los investigadores a utilizar el Programa de Acceso para Investigadores y a presentar evaluaciones de seguridad y capacidad relacionadas con los plugins como parte del marco Evals recientemente de código abierto.

¿Qué son los plugins de terceros en ChatGPT y cómo se pueden crear?

Los plugins de terceros en ChatGPT son herramientas que permiten a los desarrolladores integrar nuevas funcionalidades y fuentes de información externas al modelo de lenguaje, lo que puede mejorar la utilidad y la precisión de las respuestas del modelo. Estos plugins se describen mediante un archivo de manifiesto que incluye una descripción de las capacidades del plugin y cómo invocarlas, así como documentación para el usuario. Para crear un plugin, los desarrolladores deben construir una API con los endpoints que desean que el modelo de lenguaje llame, crear una especificación OpenAPI que documente la API y un archivo de manifiesto que enlace a la especificación OpenAPI y proporcione metadatos específicos del plugin. Los usuarios de ChatGPT pueden elegir qué plugins de terceros habilitar al iniciar una conversación, y la documentación de los plugins habilitados se muestra al modelo de lenguaje como parte del contexto de la conversación. Los desarrolladores pueden crear sus propios plugins para ChatGPT siguiendo estos pasos y registrándolos con el modelo de lenguaje.