Mostrando artículos por etiqueta: IA
Jefe de Anthropic, Dario Amodei, pide frenar el ritmo del desarrollo de la IA ante temor de uso indebido
jornada.com
Nueva York. El director ejecutivo y cofundador de Anthropic, Dario Amodei, hizo un llamado este sábado a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología ante los crecientes temores sobre su uso indebido, y esbozó un marco de tres pasos destinado a establecer el ritmo del desarrollo.
"Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos", escribió Amodei en un artículo publicado en X.
Su ensayo se produce después de que Anthropic publicó el jueves un informe de inteligencia sobre amenazas en el que se detallaba cómo varios actores habían utilizado sus modelos de IA "Claude" para actividades que iban desde el desarrollo de armas y operaciones cibernéticas hasta la vigilancia y el fraude.
La alarma sobre el daño potencial de la IA aumentó esta semana cuando el investigador de Anthropic Jacob Coxon dimitió afirmando que "las personas que desarrollan la IA creen sinceramente que podría matarnos a todos antes de que termine la década".
Amodei aclaró que no estaba pidiendo que se detuviera el entrenamiento de los modelos ni el progreso técnico, sino que se garantizara que las empresas se tomaran el tiempo necesario para ajustar y proteger sus modelos, y que evaluadores independientes confirmaran estas medidas.
Tres pasos
Como parte del marco de tres pasos que propone, Amodei afirmó que Anthropic incorporaría evaluadores externos permanentes en el seno de las empresas punteras de IA, con acceso a las herramientas pertinentes y a los procesos internos de evaluación de riesgos.
Reuters informó la semana pasada que un enjambre de agentes rebeldes de OpenAI secuestró una página web alemana y la transformó en un tablón de anuncios para otros agentes de IA, mientras los responsables del desarrollador de ChatGPT mantenían el incidente en secreto, ya que los ejecutivos se enfrentaban a las repercusiones de la brecha de seguridad de julio en el repositorio de código abierto Hugging Face.
Numerosos incidentes en los que agentes de IA de desarrolladores como OpenAI —rival de Anthropic— han vulnerado o intentado acceder a sistemas externos han agravado la preocupación por la creciente capacidad de los modelos de IA y la capacidad de los desarrolladores para controlarlos.
Amodei dijo que las empresas de IA deberían colaborar de forma voluntaria para establecer normas, ya que un número cada vez mayor de legisladores estadunidenses está pidiendo nuevas normas que regulen los sistemas de IA.
Frente al avance de la IA, BUAP apuesta por formar al “Docente GuIA”
Gabriela García Guzmán
La inteligencia artificial está obligando a replantear la manera de enseñar y evaluar en las aulas universitarias. Ante este escenario, la BUAP concluyó el Diplomado en Inteligencia Artificial y Transformación Docente, una estrategia dirigida a sus profesores para desarrollar un nuevo perfil académico: el Docente GuIA.
El programa, realizado por la Agencia de Inteligencia Artificial y Ética Algorítmica y avalado por la Escuela de Formación Docente y Desarrollo Académico, comprendió 120 horas de capacitación distribuidas en cuatro microcredenciales: Evolución de la IA, GuIA Docente, Transformación de Evaluación, y Bienestar y Desarrollo.
Más que enseñar el funcionamiento de las herramientas de inteligencia artificial, el diplomado plantea modificar la forma en que los profesores diseñan sus clases, actividades y mecanismos de evaluación.
La intención es que el docente pueda acompañar a los estudiantes ante una tecnología que ya forma parte de sus procesos de aprendizaje, pero desde una perspectiva crítica y responsable.
El perfil de Docente GuIA integra comprensión técnica, transformación pedagógica, evaluación, pensamiento crítico, responsabilidad ética y desarrollo humano. Bajo este modelo, el profesor también deberá enseñar al estudiante a distinguir entre los momentos en que conviene utilizar IA, aquellos en los que sus resultados deben ser cuestionados y las situaciones en las que lo adecuado es no emplearla.
La BUAP se ha planteado como objetivo formar a mil docentes con este perfil durante un año.
Los resultados iniciales muestran avances importantes. La proporción de docentes que afirmó contar con capacidades para diseñar actividades con IA aumentó de 50 a 91.7 por ciento.
También creció de 33.4 a 83.4 por ciento el porcentaje de participantes que aseguró contar con criterios para evaluar trabajos elaborados con asistencia de inteligencia artificial.
El cambio más significativo se registró en la orientación para analizar críticamente contenidos generados por IA: pasó de 33.3 a 100 por ciento.
Además, 83.3 por ciento de los participantes señaló que sus estudiantes ya verifican datos, contrastan fuentes e identifican posibles errores en los contenidos producidos con estas herramientas.
Analizan impacto de misiones tripuladas en el espacio profundo y el uso de la IA
Contraparte/Staff
“¿Quién toma las decisiones en el espacio profundo? Ética y autonomía de la IA en misiones tripuladas” es el nombre de la conferencia magistral que dictó en el salón Candiles del edificio Carolino, Cecilia Guadalupe Torres Perea, investigadora aeroespacial mexicana, psicóloga y estudiante de Ingeniería Aeronáutica.
Durante su ponencia, organizada por la agencia Aura. Inteligencia Artificial y Ética Algorítmica de la BUAP, Torres Perea mencionó cómo conjuga su interés por la ingeniería aeronáutica y la psicología aplicada a las misiones espaciales. Analizó cómo los sistemas de IA impactan la toma de decisiones en misiones del espacio profundo y los desafíos éticos que esto implica para el futuro de la humanidad fuera de la Tierra.
Como ejemplo, mencionó cómo en una misión a Marte, la señal tarda hasta 20 minutos en llegar a la Tierra. Si surge una emergencia crítica médica o de soporte vital, la tripulación no puede esperar la respuesta de Control de Misión; una IA local podría diagnosticar, priorizar recursos y sugerir soluciones.
Recordó que la exploración espacial tiene apenas 69 años, a diferencia del tiempo que tiene el universo: “hay mucho por aprender y conocer, quizá en 200 años seremos capaces de convertirnos en una especie interplanetaria”.
Aseguró que en la actualidad ya existe una fase avanzada de desarrollo y pruebas de vuelo integrado en misiones privadas tripuladas al espacio, con Starship de SpaceX, con la intención de tener futuros vuelos comerciales y misiones lunares tripuladas. No obstante, la ciencia en sus distintas áreas como la Física, la Medicina, la Psicología, entre otras, tiene mucho que ofrecer para garantizar la seguridad de los tripulantes, así como el uso de la IA y los parámetros éticos con los que operará.
Pentágono llega a acuerdos con gigantes de la IA para uso militar
Estos pactos también demuestran el acercamiento de las grandes empresas de Silicon Valley al gobierno de Trump, una actitud que contrasta con la de Anthropic, que rechazó un contrato con el Departamento de Guerra.
IA es una herramienta importante para la Dirección de Bibliotecas BUAP
IA es una herramienta importante para la Dirección de Bibliotecas BUAP
Fabián Gómez
La Inteligencia Artificial será una importante herramienta para la Dirección General de Bibliotecas de la BUAP, la cual recientemente la integró a su sistema de búsqueda digital, denominado Asistente de Investigación.
La Rectora de la BUAP, Lilia Cedillo Ramírez, ha dicho que la segunda etapa de su administración estará acompañada de la IA, la cual facilita la exploración en más de 500 mil libros y 165 plataformas digitales de investigación.
Es en el tema central de Bibliotecas, en donde se lanzará un llamado importante para que aprovechen esta importante herramienta
Por cierto: toda la comunidad BUAP puede acceder con su correo institucional vigente en www.bibliotecas.buap.mx. Si te interesa, no dudes en ingresar.
Alumno de Electrónica BUAP abordará el uso responsable de la IA
- En seminario académico
Rectora Lilia Cedillo encabezará seminario especializado de IA
Fabián Gómez
La Rectora de la Benemérita Universidad Autónoma de Puebla (BUAP), Lilia Cedillo Ramírez, encabezará el seminario académico especializado “IA responsable para nuevas generaciones”, evento que será de gran aportación científica y académica para los asistentes.
En el evento participará el reconocido comunicador Marcelo García Almaguer, experimentado en diversos temas y especializado en el área digital.
García Almaguer expondrá el tema de Gobernanza de la Inteligencia Artificial: retos institucionales; mientras que el tema sobre la Inteligencia Artificial para el desarrollo de México será abordado por Kevin Gutiérrez Soto, alumno destacado en esta área, de la Facultad de Ciencias de la Electrónica.
De igual forma, participa el ingeniero Marco Antonio Santos Landa con la ponencia Formación de talento especializado en Inteligencia Artificial: más allá de la competencia técnica.
LA BUAP tiene el compromiso por llevar a cabo eventos y actividades de calidad y con especialistas que formen destacados profesionales que aporten sus conocimientos a la humanidad.
El evento se llevará a cabo el próximo 28 de enero en el Salón Barroco del Edificio Carolino a las 16:00 horas, no faltes.
Papa León XIV alerta sobre peligros de chatbots y algoritmos en la IA
unotv.com
El papa León XIV advirtió este sábado sobre los riesgos de la inteligencia artificial (IA) y la falta de transparencia en los algoritmos que regulan el funcionamiento de los chatbots, incluidos ChatGPT y Gemini, a los que calificó de “especialmente eficaces en la persuasión oculta”.
El pontífice peruanoestadounidense señaló que los modelos de IA reflejan la visión de quienes los construyen y que, al reproducir estereotipos y prejuicios presentes en los datos, pueden imponer modos de pensar y aproximaciones a la realidad, según un mensaje difundido con motivo de la Jornada Mundial de las Comunicaciones Sociales.
Riesgos de concentración y uso de la IA
León XIV denunció que solo unas pocas empresas controlan esta fuerza invisible que afecta a la sociedad, y alertó sobre los sistemas que presentan probabilidades estadísticas como conocimiento, ofreciendo aproximaciones en lugar de certezas.
El papa enfatizó que el reto no es detener la innovación digital, sino gobernarla y ser conscientes de su carácter ambivalente, destacando la importancia de la alfabetización digital y la educación sobre medios de comunicación e inteligencia artificial en todos los niveles educativos.
Preocupaciones sobre la IA militar
Hace un mes, León XIV advirtió sobre la carrera por la IA en el ámbito militar, calificando como destructivo delegar en máquinas decisiones sobre la vida y la muerte de las personas.
El pontífice reafirma su postura de alerta frente a la expansión de la IA, instando a un uso responsable y transparente de la tecnología que integre educación y conciencia social.
Convoca BUAP a seminario especializado sobre “IA responsable para nuevas generaciones”
Contraparte/Staff
En la BUAP se llevará a cabo el seminario académico especializado “IA responsable para nuevas generaciones” el próximo 28 de enero en el Salón Barroco del Edificio Carolino a las 16 horas, con la participación de la Rectora Lilia Cedillo Ramírez, quien hablará sobre la Responsabilidad intergeneracional ante la IA.
Asimismo, el maestro Marcelo García Almaguer expondrá el tema de Gobernanza de la Inteligencia Artificial: retos institucionales; mientras que la Inteligencia Artificial para el desarrollo de México será abordado por Kevin Gutiérrez Soto, alumno destacado en esta área, de la Facultad de Ciencias de la Electrónica.
De igual forma, participa el ingeniero Marco Antonio Santos Landa con la ponencia Formación de talento especializado en Inteligencia Artificial: más allá de la competencia técnica.
Remuneración compensatoria e Inteligencia Artificial, los retos para la Sociedad de Autores y Compositores de México: Roberto Cantoral
Martín Urieta, presidente de la SACM, reiteró a MILENIO su misión por la defensa del derecho autoral, durante la celebración del Día del Compositor
