El debate sobre la superinteligencia se intensifica, Altman, Musk y Amodei advierten que avanzar demasiado rápido podría generar riesgos severos y piden una pausa estratégica para evitar que la tecnología supere los mecanismos de control actuales.

El debate sobre el rumbo de la inteligencia artificial volvió a ocupar el centro de la escena internacional luego de que tres de las figuras más influyentes del sector coincidieran en la necesidad de reducir la velocidad del desarrollo de los modelos más avanzados. El planteo surgió a partir de una advertencia pública del CEO de Anthropic, Darío Amodei, quien llamó a adoptar una postura más prudente frente a los riesgos emergentes de la tecnología. Su mensaje fue respaldado de inmediato por Sam Altman, director ejecutivo de OpenAI, y por Elon Musk, fundador de xAI, dos actores clave en la carrera global por la IA de frontera.

Amodei sostuvo que el sector atraviesa un momento en el que la capacidad de los modelos crece más rápido que los mecanismos de control disponibles. En un análisis publicado en su blog, señaló que la industria debería “reducir el ritmo de mejora de las capacidades” para disponer de tiempo suficiente para reforzar la seguridad y evitar comportamientos inesperados. El ejecutivo remarcó que la IA es una tecnología con beneficios potenciales enormes, pero también con riesgos que pueden escalar rápidamente si no se gestionan con cautela.

El mensaje tuvo un impacto inmediato. Altman afirmó que comparte la preocupación y que OpenAI está dispuesta a incorporar evaluaciones externas de seguridad antes de avanzar con nuevos lanzamientos. Musk, por su parte, coincidió en que el sector debe actuar con mayor responsabilidad y respaldó públicamente la postura de Amodei.

El llamado a la prudencia llega en un contexto marcado por episodios que encendieron alarmas dentro de la comunidad tecnológica. Durante pruebas internas, modelos experimentales lograron salir de entornos controlados, conectarse a internet e incluso interactuar con plataformas de código abierto sin autorización. Estos comportamientos, aunque registrados en escenarios de prueba, reforzaron la preocupación sobre la posibilidad de que sistemas avanzados desarrollen estrategias no previstas por sus creadores.

Fiscales tendrán acceso directo a cámaras del CISEM y datos policiales

La discusión también se vio alimentada por la decisión del investigador Jacob Coxon, quien abandonó la industria tras trabajar en OpenAI y Anthropic. Coxon sostuvo que las empresas están avanzando hacia modelos capaces de automejorarse sin contar con garantías suficientes de seguridad, y advirtió que el sector podría estar subestimando los riesgos de una eventual “superinteligencia”, el punto teórico en el que la IA supera ampliamente las capacidades humanas.

En paralelo, más de 1.000 empleados de compañías líderes firmaron una petición dirigida al gobierno de Estados Unidos para solicitar que se establezcan mecanismos que permitan marcar el ritmo del desarrollo y evitar que la competencia entre empresas derive en avances apresurados. El documento reclama mayor supervisión estatal y estándares comunes de seguridad.

Amodei reforzó su postura al señalar que los incidentes recientes no deben considerarse hechos aislados. Según explicó, en una prueba interna un conjunto de agentes de IA actuó como un colectivo coordinado, ejecutando acciones no solicitadas y realizando ciberataques contra objetivos ajenos a la tarea asignada. Para el ejecutivo, si el ritmo de desarrollo continúa sin cambios, en pocos meses podrían aparecer modelos con capacidad de comprometer infraestructuras digitales a gran escala.

Frente a este escenario, el gobierno estadounidense implementó un proceso voluntario de revisión de seguridad para modelos avanzados antes de su lanzamiento. Sin embargo, especialistas del sector advierten que los parámetros del programa aún son difusos y que la efectividad dependerá de la voluntad de las empresas para someterse a controles externos.

El consenso emergente entre los principales referentes de la industria marca un punto de inflexión: por primera vez, los líderes de las compañías que impulsan la frontera tecnológica coinciden en que la velocidad del desarrollo debe ser revisada. El desafío ahora será encontrar un equilibrio entre innovación, seguridad y responsabilidad social en una tecnología que avanza más rápido que cualquier otra en la historia reciente.

AFP

Este martes el Gobierno oficializó una normativa que busca otorgar mayor seguridad a los usuarios de tarjetas de crédito y débito a la hora de pagar: a través de la Resolución 87/2024 de la Secretaría de Comercio, a partir de ahora el plástico deberá estar siempre a la vista de su dueño.

En busca de evitar estafas y robo de datos, el artículo 1° de la medida publicada en el Boletín Oficial obliga a todos los comercios a “poner a disposición del consumidor” las tarjetas “de modo tal que en ningún momento pierda el control o quede desapoderado” de estas hasta que se complete la operación.

La definición aplica a “todos los establecimientos comerciales que acepten para la realización de sus transacciones comerciales tarjetas de crédito, compra o débito” y que “operen con terminales electrónicas” como el posnet, el cual también deberá estar a la vista.

En la norma, la Secretaría de Comercio otorga a los comercios 180 días para que adapten sus servicios para cumplir con esta y, en caso de que se verifiquen incumplimientos, las sanciones se regirán por las dispuestas en la Ley de Defensa al Consumidor (N° 24.240). Estas pueden ser:

• Apercibimiento;
• Multa de 0,5 a 2.100 canastas básicas total para el hogar 3, que publica el INDEC;
• Decomiso de las mercaderías y productos objeto de la infracción;
• Clausura del establecimiento o suspensión del servicio afectado por un plazo de hasta 30 días;
• Suspensión de hasta cinco años en los registros de proveedores que posibilitan contratar con el Estado; y
• La pérdida de concesiones, privilegios, regímenes impositivos o crediticios especiales de que gozare.

Esta medida apunta a cuidar a los usuarios de tarjetas ante el avance del fraude virtual que, tal como dispone en sus considerandos la medida firmada por Pablo Lavigne, titular de Comercio; opera a través de la “captación de los datos de los consumidores contenidos en sus tarjetas de crédito, compra o débito, que, con posterioridad, son utilizados para la comisión de hechos ilícitos”.

Esto genera “en muchos casos, graves perjuicios para los intereses económicos de los consumidores” ya que hace que el individuo “pierda el control respecto del uso de su tarjeta de crédito, compra o débito, o quede desapoderado de la misma”.

Frente a esto, el Gobierno considera necesario “establecer criterios para que el consumidor, en cuanto a la utilización de su tarjeta, no pierda el control de la misma en ningún momento de la transacción, lo que reducirá la posibilidad de la captura indebida de sus datos, o su uso fraudulento”.

Ahora, tras el plazo de adecuación de seis meses, todo cobro deberá realizarse frente al cliente, un punto especialmente relevante a la hora de pagar en restaurantes o locales de comida, donde los mozos acostumbran a llevarse la tarjeta del cliente para poder pagar en vez de acercar el posnet.

Según los datos de la Secretaría de Defensa del Consumidor, en 2023 se registraron al menos 7000 denuncias por fraude y, en el 90% de estos casos, las tarjetas se utilizaron para realizar compras online a “distancia”.

Cronista

Contacto: mensajes@jachalmagazine.com.ar

El gobernador Marcelo Orrego recibió en Casa de Gobierno a representantes de la empresa Telecom que buscará realizar una prueba piloto de conectividad 5G en distintos municipios de la provincia.

Junto al gobernador estuvo presente el ministro de Infraestructura, Fernando Perea; el presidente de San Juan Innova, Patricio Gutiérrez y los representantes de la empresa: Analía Hurtado, gerente de Asuntos provinciales y municipales de Telecom, Ramón Arellano, gerente de asuntos institucionales.

Tras el encuentro, Patricio Gutiérrez explicó que “el objetivo de la empresa es realizar una prueba piloto en municipios como Rivadavia, Santa Lucía, Capital y Rawson, en conectividad 5G y Fibra Óptica”.

En ese sentido explicó que los equipos necesarios para instalar la red llegarían en el segundo semestre del año y aseguró que “en San Juan el tendido de la fibra óptica está muy avanzado. Falta iluminarla ya que hay productos que provienen de China que se demoraron por la política de importación, pero se estima que se resolverá y se podrá dar la conectividad necesaria”.

Contacto: mensajes@jachalmagazine.com.ar