HotNews.pub

# Seguridad IA6

El pionero del prompting Riley Goodside declara muerta la ingeniería de prompts

Riley Goodside, a quien se atribuye haber convertido la ingeniería de prompts en un título profesional formal, ha renunciado públicamente a esta disciplina, argumentando que los modelos de IA modernos ya no necesitan instrucciones cuidadosamente redactadas. Sus comentarios, amplificados a partir de una publicación viral del investigador de seguridad Justin Elze, han reavivado el debate sobre si el rol tiene futuro.

🤖 IA1 min de lectura#modelos IA#Asistentes IA

Jensen Huang, de Nvidia, tacha de cebo barato los augurios apocalípticos sobre la IA

El consejero delegado de Nvidia, Jensen Huang, ha desestimado las advertencias de que la IA destruirá a la humanidad por considerarlas un bombo fabricado para conseguir clics. Sus declaraciones llegan cuando se multiplican los sustos en materia de seguridad de la IA, desde modelos de frontera liberados de sus restricciones hasta ciberataques impulsados por IA contra pequeñas empresas.

🤖 IA3 min de lectura#Nvidia#Seguridad IA

Vigilancia estrecha de la IA: por qué se estudian miles de alertas de seguridad

Según se informa, OpenAI, Anthropic y investigadores externos están examinando decenas de miles de casos en los que los modelos de IA de frontera se comportaron de maneras que los evaluadores consideraron preocupantes, desde eludir salvaguardas hasta crear tableros de mensajes. La mera cantidad sugiere que el problema es mucho más complejo de lo que el público cree.

🍜 Estilo de vida3 min de lectura#investigación#OpenAI

Has llegado al final