Muchas de las charlas de ayer estuvieron plagadas de las siglas que cabría esperar de este grupo de panelistas de gran espíritu: YC, FTC, AI, LLMs. Pero entre las conversaciones, y como elemento fundamental, podríamos decir, se encontraba el apoyo a la IA de código abierto.
Fue un giro radical (o un regreso, si eres un fanático de Linux) con respecto a la década de 2010, obsesionada con las aplicaciones, cuando los desarrolladores parecían felices de contenerizar sus tecnologías y entregarlas a plataformas más grandes para su distribución.
El evento también ocurrió apenas dos días después de que el CEO de Meta, Mark Zuckerberg, declarara que “la IA de código abierto es el camino a seguir” y Lanzado Llama 3.1la última versión del algoritmo de inteligencia artificial de código abierto de Meta. Como dijo Zuckerberg en su anuncio, algunos tecnólogos ya no quieren estar “limitados por lo que Apple nos permita construir” ni encontrarse con reglas arbitrarias y tarifas por aplicaciones.
Resulta que la IA de código abierto también es el enfoque que OpenAI está adoptando. no OpenAI utiliza para sus GPT más importantes, a pesar de lo que el nombre de la startup multimillonaria podría sugerir. Esto significa que al menos una parte del código se mantiene privada y que OpenAI no comparte los “pesos” o parámetros de sus sistemas de IA más potentes. También cobra por el acceso a nivel empresarial a su tecnología.
“Con el auge de los sistemas de IA compuestos y las arquitecturas de agentes, el uso de modelos de código abierto pequeños pero ajustados brinda resultados significativamente mejores que un [OpenAI] GPT4, o [Google] “Géminis. Esto es especialmente cierto para las tareas empresariales”, dice Ali Golshan, cofundador y director ejecutivo de Gretel.ai, una empresa de datos sintéticos. (Golshan no estuvo en el evento de YC).
“No creo que se trate de OpenAI contra el mundo ni nada parecido”, dijo Dave Yen, quien dirige un fondo llamado Orange Collective para que los exalumnos exitosos de YC apoyen a los fundadores prometedores de YC. “Creo que se trata de crear una competencia justa y un entorno en el que las empresas emergentes no corran el riesgo de morir al día siguiente si OpenAI cambia sus modelos de precios o sus políticas”.
“Eso no quiere decir que no debamos tener salvaguardas”, agregó Yen, “pero tampoco queremos limitar innecesariamente las tasas”.
Los modelos de IA de código abierto tienen algunos riesgos inherentes sobre los que han advertido los tecnólogos más cautelosos. El más obvio es que la tecnología es abierta y gratuita; es más probable que las personas con malas intenciones utilicen estas herramientas para hacer daño que un modelo de IA privado y costoso. Los investigadores han señalado que es Barato y fácil para que los malos actores eliminen cualquier parámetro de seguridad presente en estos modelos de IA.
“Código abierto” es También es un mito en algunos modelos de IA.como informó Will Knight de WIRED. Los datos utilizados para entrenarlos pueden seguir manteniéndose en secreto, sus licencias pueden restringir a los desarrolladores la creación de ciertas cosas y, en última instancia, pueden seguir beneficiando al creador del modelo original más que a cualquier otra persona.
Y algunos políticos se han opuesto al desarrollo sin trabas de sistemas de IA a gran escala, incluido el senador estatal de California Scott Wiener. El proyecto de ley de seguridad e innovación en IA de Wiener, SB 1047, ha sido polémico en los círculos tecnológicos. Su objetivo es establecer normas para los desarrolladores de modelos de IA cuyo entrenamiento cuesta más de 100 millones de dólares, exige ciertos niveles de pruebas de seguridad previas a la implementación y la formación de equipos rojos, protege a los denunciantes que trabajan en laboratorios de IA y otorga al fiscal general del estado un recurso legal si un modelo de IA causa un daño extremo.
El propio Wiener habló en el evento de YC el jueves, en una conversación moderada por Bloomberg La reportera Shirin Ghaffary dijo que estaba “profundamente agradecido” con las personas de la comunidad de código abierto que se han manifestado en contra del proyecto de ley, y que el estado ha “realizado una serie de enmiendas en respuesta directa a algunos de esos comentarios críticos”. Un cambio que se ha realizado, dijo Wiener, es que el proyecto de ley ahora define más claramente un camino razonable para cerrar un modelo de IA de código abierto que se ha descarrilado.
El orador famoso del evento del jueves, una incorporación de último momento al programa, fue Andrew Ng, cofundador de Coursera, fundador de Google Brain y ex científico jefe de Baidu. Ng, como muchos otros asistentes, habló en defensa de los modelos de código abierto.
“Este es uno de esos momentos en los que [it’s determined] Si se permite a los empresarios seguir innovando, dijo Ng, “o si deberíamos gastar el dinero que se destinaría a desarrollar software en contratar abogados”.
