Tenemos que hacer algo con la IA antes de que sea demasiado tarde.
Es posible que haya escuchado alguna variación de esta declaración docenas de veces en años anteriores. charlar. Probablemente hayas escuchado eso cientos de veces al mes. desde charlar
Hay que hacer algo con la IA u otro. Si la inteligencia artificial continúa desarrollándose al ritmo actual, la preocupación es cada vez mayor, es probable que ocurra una catástrofe. Ya sea un tsunami de desinformación, la pérdida de millones de puestos de trabajo o el propio fin del mundo, la revolución de la IA conlleva enormes riesgos.
En marzo, una carta abierta pidió a todos los laboratorios que detuvieran el desarrollo de IA durante seis meses, tiempo durante el cual el gobierno puede trabajar en una regulación razonable. Fue firmado por Elon Musk, el cofundador de Apple, Steve Wozniak, y entre las luminarias académicas y tecnológicas, Yuval Noah Harari, autor de Sapiens.
“Durante los últimos dos años, han surgido nuevas herramientas de inteligencia artificial que amenazan la supervivencia de la civilización humana”, escribió Harari el mes pasado. “La inteligencia artificial ha adquirido algunas capacidades notables para manipular y generar lenguaje… y, por lo tanto, la IA se ha infiltrado en el sistema operativo de nuestra civilización”.
Algunas palabras inquietantes del hombre que escribió un libro sobre la humanidad.
La carta abierta dice que es hora de poner las barreras de seguridad en su lugar porque la IA pronto será demasiado inteligente para ser restringida. O, como dice Musk, si “solo implementamos las regulaciones después de que suceda algo terrible, puede ser demasiado tarde para establecer las regulaciones. La IA puede tener el control en este punto”.
Pero hay otra razón por la que los legisladores se están lanzando ahora a la IA. La historia nos dice que hay un período finito de tiempo en el que es políticamente Posibilidad de regular la inteligencia artificial.
El problema es la guerra cultural, como siempre. La forma en que tantos temas importantes son cooptados y convertidos en partidistas por parte de políticos y expertos en línea empeñados en convertir en armas el tipo de tribalismo que se exhibe a diario en las plataformas de redes sociales como Twitter. Si la IA se convierte en parte de la guerra cultural, será muy difícil lograr una regulación reflexiva e integral.
Es posible que la politización ya haya comenzado. ¿Esa cita de Musk de arriba? Lo presentó durante una aparición en The Tucker Carlson Show, cuando Carlson todavía tenía un programa. Así presentó la exconductora de Fox una de las diapositivas de Musk:
“A largo plazo, la IA puede volverse autónoma y dominar el mundo. Pero a corto plazo, los políticos la utilizarán para controlar lo que piensas, para poner fin a tu gobierno autónomo y acabar con la democracia en vísperas de las elecciones presidenciales”.
Elon Musk es una de varias luminarias tecnológicas que han solicitado detener el desarrollo de la inteligencia artificial durante 6 meses.
Bloomberg/Getty
malos precedentes
La propagación descontrolada de la IA podría conducir al desastre. Pero si hay algo en lo que los legisladores estadounidenses han demostrado ser expertos es en buscar el desastre para obtener ganancias políticas. Esto se hace a menudo mediante el fomento del miedo. Retratar a la IA como un complot para acabar con la democracia, como hizo Carlson, es una de las muchas formas en que esto podría suceder. Una vez que haya establecido los puntos de conversación sobre la sangre hirviendo, puede ser difícil sofocar la ira.
No hace falta ir muy lejos para ver ejemplos de partidismo patológico. Mientras escribo estas palabras, el Congreso está jugando a la gallina sobre el aumento del techo de la deuda. Los líderes republicanos se niegan a autorizar al gobierno a pedir dinero prestado para pagar sus facturas a menos que la Casa Blanca acepte reducir los incentivos de energía verde, derogar la iniciativa de condonación de préstamos estudiantiles de Biden y reducir el gasto de la Seguridad Social.
Es un ejemplo de política corrompiendo lo que debería ser una simple operación. Subir el techo de la deuda suele ser un ritual administrativo, pero en las últimas décadas se ha convertido en un fútbol político. Pero hay riesgos reales asociados a esto: si ninguno de los lados parpadea y no se eleva el techo, millones perderán el acceso a Medicare, los militares no recibirán pagos y los mercados globales se verán afectados por el hecho de que Estados Unidos no paga sus obligaciones de deuda.
Nuevamente, esto debería ser fácil, mucho más fácil que regular la IA. Pero muestra cómo la política puede corromper incluso los objetivos más claros.
El cambio climático y la continua resistencia de los gobiernos de todo el mundo para abordarlo de manera adecuada es quizás el mejor ejemplo de una guerra cultural que se detiene. El compromiso se vuelve difícil cuando un lado dice que el cambio climático es horrible mientras que el otro lo ve como exagerado o irreal. Una brecha similar haría que la regulación de la IA fuera imposible o, en el mejor de los casos, lenta. muy lento.
Incluso en temas donde hay consenso bipartidista algo Debe hacerse, los demócratas y los republicanos a menudo trabajan en direcciones opuestas. Prácticamente todo el mundo está de acuerdo en que la gran tecnología debe ser regulada. A los demócratas les preocupa que las empresas tecnológicas altamente rentables no protejan adecuadamente los datos y acosen a los competidores más pequeños. Los republicanos lloran por la censura y afirman que las élites de Silicon Valley están erosionando la libertad de expresión. Nunca se ha aprobado ningún proyecto de ley importante que arroje luz sobre las grandes tecnologías.
La misma inercia puede afectar a una organización de IA si ambas partes, por muy acordadas que estén, están algo Si esto se hiciera, describe diferentes soluciones.
Primeras respuestas a la regulación de la IA
El desarrollo de regulaciones integrales que aborden las posibles externalidades de la IA llevará años. Pero hay algunas reglas rápidas y sencillas que pueden y deben aplicarse ahora. Fue solicitado por casi 28,000 personas que firmaron la carta abierta respaldada por Musk.
Primero, la regulación debería obligar a una mayor transparencia por parte de los desarrolladores de IA. Eso podría significar ser transparente sobre cuándo se usa la IA, como en el caso de las empresas que usan algoritmos de IA para filtrar solicitudes de empleo o alquiler, por ejemplo. California ya está lidiando con el problema anterior, con un proyecto de ley que busca exigir a las empresas que notifiquen a las personas si se utilizan algoritmos impulsados por IA para tomar decisiones en nombre de la empresa.
También necesitamos que empresas como OpenAI, que está detrás de ChatGPT, pongan a disposición de los investigadores los datos sobre los que se entrenan los chatbots. Es probable que abunden las reclamaciones de derechos de autor en la era de la inteligencia artificial (¿Cómo pagamos publicaciones de noticias por historias? Los chatbots como GPT basan sus respuestas en imágenes o imágenes que los generadores de arte de IA usan como entrada). Una mayor transparencia sobre los datos en los que se entrenan los sistemas de IA ayudará a mantener la coherencia de estas disputas.
Quizás lo más importante es que la IA debe declararse como IA.
Una de las grandes preocupaciones sobre la IA es su capacidad para parecer persuasiva y convincente. Cualidades peligrosas en las manos equivocadas. Antes de las elecciones de 2016, Rusia usó cuentas de redes sociales falsas en un intento de sembrar discordia sobre temas divisivos como la inmigración y la tensión étnica. Si cuentan con el apoyo de la IA, tales intentos de agitar a la chusma serían mucho más efectivos y difíciles de detectar.
De la misma manera que Instagram obliga a los influencers a #ad cuando les pagan por una publicación, las cuentas de Facebook y Twitter deben declararse ante la IA. Los videos falsos deben marcarse de tal manera que sean productos reconocibles de IA.
La congresista demócrata de Nueva York, Yvette Clark, propuso tales medidas en un proyecto de ley presentado a principios de este mes. Pero fue en respuesta a que el Comité Nacional Republicano publicara un anuncio anti-Joe Biden creado con imágenes de IA, anunciando más IA de Malarkey a medida que se acercan las elecciones de 2024.
La inteligencia artificial aún no ha entrado en la guerra cultural como el cambio climático o incluso Big Tech. Pero, ¿cuánto tiempo será así?
Nota de los editores: CNET usa un motor de inteligencia artificial para crear algunas explicaciones sobre finanzas personales que nuestros editores editan y verifican. Para obtener más información, consulte esta publicación.
Ver este:
Creador de ChatGPT testifica ante el Congreso sobre seguridad de IA…
15:01