/ sábado 25 de noviembre de 2023

En OpenIA dejan atrás la seguridad por la comercialización

Tras el regreso de Sam Altman a la empresa creadora del ChatGPT, analistas dicen que se priorizó la innovación sobre la seguridad de la IA

El despido y pronto retorno de Sam Altman como CEO de OpenIA, startup responsable de la creación y desarrollo de ChatGPT, podría marcar el comienzo de una nueva era para el desarrollo de la Inteligencia Artificial (IA), donde se apostará más por la comercialización que la seguridad.

“Con el regreso de Sam Altman podemos decir que la innovación, lanzamiento de productos y monetización prevalecerán sobre las consideraciones de seguridad en el futuro” explicó Luca Menozzi, analista de investigación de Next Generation de Julius Baer.

La pelea interna en OpenAI se relacionó con la dirección estratégica que la startup tenía que tomar con los futuros desarrollos tecnológicos: apostar por el desarrollo de nuevos productos o desacelerar el desarrollo y centrarse en la seguridad. Y parece ser que ganó el desarrollo, dijo el especialista.

“Estoy deseando volver a OpenAI”, dijo Altman entre varias publicaciones que hizo sobre su salida de la firma en la plataforma de redes sociales X el martes por la noche.

Para Menozzi, la relación entre Microsoft y OpenAI, después del retorno de Altman y con la mayoría del consejo de administración presentando sus renuncias, se fortalecerá, pero sí creará un precedente para las inversiones de grandes empresas en startups de IA.

“Probablemente, Microsoft tendrá alguna representación en el consejo de administración para evitar malas sorpresas.

La cooperación entre Microsoft y OpenAI continuará. Hacia adelante, creemos que las empresas pensarán dos veces antes de llevar a cabo estas adquisiciones y se concentrarán más en los términos de sus acuerdos”, dijo Menozzi.

Pese al caos, la cooperación entre Microsoft y OpenAI continuará, con Microsoft dependiendo de OpenAI en términos de modelos de Inteligencia Artificial, y OpenAI contará con la infraestructura de Microsoft para desarrollar esos modelos.

“Creemos que Microsoft hubiera querido adoptar a muchos empleados de OpenAI, internalizar la investigación sobre IA y tener influencia en la comercialización de productos. Esto podría haber disminuido la velocidad de la innovación, pero hubiera permitido mayor control. Sin embargo, ya no es el caso”

DESCUBRE SUPERINTELIGENCIA

Antes del regreso de Altman como CEO de OpenAI, varios investigadores enviaron a la junta directiva una carta advirtiendo sobre un poderoso descubrimiento de inteligencia artificial que, según dijeron, podría amenazar a la humanidad.

De acuerdo con Reuters, una carta y el algoritmo de IA no reportados anteriormente fueron un catalizador que provocó que la junta expulsara a Altman. Según una de las fuentes, la ejecutiva de larga data Mira Murati dijo a los empleados el miércoles que una carta sobre el avance de la IA llamada Q* (pronunciado Q-Star), precipitó las acciones de la junta.

El fabricante de ChatGPT había logrado avances en Q, lo que algunos creen internamente podría ser un gran avance en la búsqueda de superinteligencia de la startup, también conocida como inteligencia artificial general (AGI), lo que OpenAI define como sistemas de IA que son más inteligentes que los humanos.

Cabe destacar que OpenAI, a diferencia de muchas empresas, está supervisada por una junta matriz sin fines de lucro diseñada para garantizar que se dé prioridad a la seguridad de la IA por encima del crecimiento. Sin embargo, la nueva reorganización favorecerá a Altman y Microsoft para el desarrollo de nuevas herramientas de IA.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Bret Taylor, excodirector ejecutivo de Salesforce, Larry Summers, exsecretario del Tesoro de Estados Unidos, y Adam D'Angelo, director ejecutivo y actual director de Quora, serán parte de la junta directiva de OpenAI.

Taylor, un programador informático y empresario estadounidense de 43 años, presidirá la junta, mientras que Summers, un destacado economista de 68 años, también miembro de las juntas directivas de Block Inc y Skillsoft Corp, aportará su experiencia. D'Angelo, el empresario de Internet de 39 años y fundador de Quora, completará el grupo que contribuirá al nuevo enfoque de desarrollo de herramientas de IA de OpenAI.

El despido y pronto retorno de Sam Altman como CEO de OpenIA, startup responsable de la creación y desarrollo de ChatGPT, podría marcar el comienzo de una nueva era para el desarrollo de la Inteligencia Artificial (IA), donde se apostará más por la comercialización que la seguridad.

“Con el regreso de Sam Altman podemos decir que la innovación, lanzamiento de productos y monetización prevalecerán sobre las consideraciones de seguridad en el futuro” explicó Luca Menozzi, analista de investigación de Next Generation de Julius Baer.

La pelea interna en OpenAI se relacionó con la dirección estratégica que la startup tenía que tomar con los futuros desarrollos tecnológicos: apostar por el desarrollo de nuevos productos o desacelerar el desarrollo y centrarse en la seguridad. Y parece ser que ganó el desarrollo, dijo el especialista.

“Estoy deseando volver a OpenAI”, dijo Altman entre varias publicaciones que hizo sobre su salida de la firma en la plataforma de redes sociales X el martes por la noche.

Para Menozzi, la relación entre Microsoft y OpenAI, después del retorno de Altman y con la mayoría del consejo de administración presentando sus renuncias, se fortalecerá, pero sí creará un precedente para las inversiones de grandes empresas en startups de IA.

“Probablemente, Microsoft tendrá alguna representación en el consejo de administración para evitar malas sorpresas.

La cooperación entre Microsoft y OpenAI continuará. Hacia adelante, creemos que las empresas pensarán dos veces antes de llevar a cabo estas adquisiciones y se concentrarán más en los términos de sus acuerdos”, dijo Menozzi.

Pese al caos, la cooperación entre Microsoft y OpenAI continuará, con Microsoft dependiendo de OpenAI en términos de modelos de Inteligencia Artificial, y OpenAI contará con la infraestructura de Microsoft para desarrollar esos modelos.

“Creemos que Microsoft hubiera querido adoptar a muchos empleados de OpenAI, internalizar la investigación sobre IA y tener influencia en la comercialización de productos. Esto podría haber disminuido la velocidad de la innovación, pero hubiera permitido mayor control. Sin embargo, ya no es el caso”

DESCUBRE SUPERINTELIGENCIA

Antes del regreso de Altman como CEO de OpenAI, varios investigadores enviaron a la junta directiva una carta advirtiendo sobre un poderoso descubrimiento de inteligencia artificial que, según dijeron, podría amenazar a la humanidad.

De acuerdo con Reuters, una carta y el algoritmo de IA no reportados anteriormente fueron un catalizador que provocó que la junta expulsara a Altman. Según una de las fuentes, la ejecutiva de larga data Mira Murati dijo a los empleados el miércoles que una carta sobre el avance de la IA llamada Q* (pronunciado Q-Star), precipitó las acciones de la junta.

El fabricante de ChatGPT había logrado avances en Q, lo que algunos creen internamente podría ser un gran avance en la búsqueda de superinteligencia de la startup, también conocida como inteligencia artificial general (AGI), lo que OpenAI define como sistemas de IA que son más inteligentes que los humanos.

Cabe destacar que OpenAI, a diferencia de muchas empresas, está supervisada por una junta matriz sin fines de lucro diseñada para garantizar que se dé prioridad a la seguridad de la IA por encima del crecimiento. Sin embargo, la nueva reorganización favorecerá a Altman y Microsoft para el desarrollo de nuevas herramientas de IA.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Bret Taylor, excodirector ejecutivo de Salesforce, Larry Summers, exsecretario del Tesoro de Estados Unidos, y Adam D'Angelo, director ejecutivo y actual director de Quora, serán parte de la junta directiva de OpenAI.

Taylor, un programador informático y empresario estadounidense de 43 años, presidirá la junta, mientras que Summers, un destacado economista de 68 años, también miembro de las juntas directivas de Block Inc y Skillsoft Corp, aportará su experiencia. D'Angelo, el empresario de Internet de 39 años y fundador de Quora, completará el grupo que contribuirá al nuevo enfoque de desarrollo de herramientas de IA de OpenAI.

Local

Ayuntamiento de Zongolica rendirá homenaje de cuerpo presente a diputado Benito Aguas

El ayuntamiento de Zongolica invitó a la población para asistir a la ceremonia organizada para el diputado federal Benito Aguas Atlahua

Local

Dirigencias del PVEM condenan asesinato del diputado Benito Aguas

Mediante un comunicado, las dirigencias estatal y nacional del PVEM se pronunciaron sobre el caso del diputado Benito Aguas Atlahua

Policiaca

Asesinan a dos hombres en una colonia de San Andrés Tuxtla

Los asesinatos fueron registrados en inmediaciones de un campo deportivo en el municipio de San Andrés Tuxtla

Local

Asesinato de diputado Benito Aguas refleja un estado amenazado por la violencia: Héctor Yunes

El diputado local del PRI, Héctor Yunes Landa se pronunció por el asesinato del diputado federal Benito Aguas Atlahua

Local

Veracruz no ha garantizado la captura y uso seguro de datos biométricos [Fotos]

Uno de los desafíos es establecer regulaciones claras y precisas que garanticen la captura y el uso adecuado de los datos biométricos

Local

Veracruz se posiciona como el segundo estado más violento para mujeres en la política

En el ámbito municipal es donde más se generan estas quejas, siendo alcaldesas y regidoras quienes han sido más víctimas de violencia política