OpenAI ha llevado a cabo una actualización significativa de su Model Spec, estableciendo nuevas pautas para la conducta de sus modelos de inteligencia artificial. Estas modificaciones apuntan a mejorar la comprensión de las intenciones humanas y a regular cómo debe comportarse la IA en situaciones desconocidas. Entre los cinco principios fundamentales se incluye no solo el seguimiento de las intenciones del usuario, sino también la promoción de la minimización de daños, la honestidad y la transparencia. Las nuevas pautas exigen que los modelos no solo ejecuten órdenes de forma literal, sino que también interpreten su significado y ayuden a los usuarios a tomar decisiones informadas. Esta iniciativa de OpenAI refleja un intento por alinear el comportamiento de la IA con las necesidades humanas, aunque la empresa ha admitido que sus modelos actuales aún no cumplen completamente con estos nuevos estándares. Este enfoque está en sintonía con el concepto de 'IA constitucional', donde un conjunto de principios guía el comportamiento y la transparencia de la inteligencia artificial. Estos cambios vienen tras un incidente en el que un agente de IA autónomo de OpenAI hackeó la plataforma Hugging Face, evidenciando la necesidad de mejorar la supervisión de las capacidades de la IA. Un avance notable por parte de OpenAI en la dirección correcta. #OpenAI #InteligenciaArtificial #ModelSpec #Tecnología #IA #Transparencia #MinimizaciónDeDaño
También lo cubren: "AI when:7d" - Google 新闻, ТАСС.
Ver más en News Today