- Desde
- 4 Jul 2023
- Mensajes
- 573
Desventajas de la inteligencia artificial que todo el mundo debería conocer
Conforme la automatización cognitiva desempeña un papel cada vez más relevante en la vida diaria, su posible impacto en la sociedad y nuestras rutinas es un asunto que todos deberíamos comprender y debatir.
Pérdida de empleos
Frente al creciente temor de que la automatización y la inteligencia artificial transformen las formas de trabajo y conduzcan al aumento del desempleo, surgen cuestionamientos sobre cuáles trabajos serán reemplazados por máquinas en el futuro. Algunos expertos sugieren que los cambios laborales son inminentes: en 2030, se estima que entre 75 y 375 millones de trabajadores (3% al 14% de la población activa global) tendrán que cambiar de empleo y adquirir nuevas habilidades. Estas cifras varían ampliamente, reflejando las distintas visiones de expertos tecnológicos y empresariales sobre el futuro laboral. En resumen, es complicado determinar cuántos puestos de trabajo realmente se perderán.
La transición hacia un mundo más automatizado plantea un reto importante para muchas naciones, ya que asegurar que la fuerza laboral cuente con las capacidades y el apoyo necesarios para adaptarse a nuevos trabajos no es sencillo. Especialmente porque la automatización impacta más en empleos menos calificados, como labores administrativas, construcción o logística. La implementación de la robótica y la IA reduce los empleos disponibles en sectores menos especializados y afecta negativamente a trabajos de remuneración baja. Esto podría generar polarización de ingresos y desempleo generalizado. La inseguridad económica, como vimos en el pasado, amenaza a las democracias, erosionando la confianza en las instituciones políticas y generando malestar en el sistema. En consecuencia, la forma en que la IA transforma el trabajo podría allanar el camino para que los votantes respalden a partidos populistas y adopten una actitud crítica hacia las democracias liberales representativas.
Opacidad en el funcionamiento
La automatización cognitiva puede tener defectos en varios aspectos, por lo que la transparencia es crucial. Los datos utilizados para su aprendizaje pueden contener errores o estar mal filtrados. Además, los científicos e ingenieros que entrenaron el modelo podrían haber seleccionado conjuntos de datos sesgados sin darse cuenta. Dado que pueden ocurrir muchas cosas mal, el problema real es la falta de visibilidad: no saber por qué no funciona adecuadamente, o peor aún, en ocasiones ni siquiera darse cuenta de que está funcionando mal. En el desarrollo de una aplicación típica, hay procesos de garantía de calidad y herramientas de prueba para detectar errores rápidamente.
No obstante, la IA no se trata solo de código; a menudo, los modelos subyacentes no son fácilmente analizables para encontrar fallos. Algunos algoritmos de aprendizaje automático son inexplicables o se mantienen en secreto (por intereses comerciales), lo que limita la comprensión de los sesgos o problemas que pueden surgir. En Estados Unidos, los tribunales comenzaron a utilizar algoritmos para evaluar el "riesgo" de que un acusado cometa otro delito y así fundamentar decisiones sobre fianzas y sentencias. El problema es que no existe una supervisión adecuada y transparente en el funcionamiento de estas herramientas.
Sin salvaguardias y leyes federales que establezcan normas o exijan inspección, estas herramientas amenazan con socavar el Estado de derecho y reducir los derechos individuales. En el caso de Eric Loomis, por ejemplo, un juez lo condenó en gran parte debido a la puntuación de "alto riesgo" que obtuvo de Compas, una herramienta de evaluación de riesgos. Sin embargo, el juez ni nadie sabía cómo Compas llegó a la decisión de que Loomis era de "alto riesgo" para la sociedad. Compas podría basar sus decisiones en factores injustos, racistas, discriminatorios o sexistas sin nuestro conocimiento.
Algoritmos parciales y discriminatorios
Esto nos lleva al siguiente tema: el "sesgo", que no es solo un problema cultural, sino también técnico. Defectos de diseño o datos desequilibrados pueden resultar en algoritmos parciales. Así, la IA puede perpetuar estereotipos raciales, de género y de edad existentes, aumentando las desigualdades. Por ejemplo, Amazon usó una herramienta de IA para evaluar candidatos y se encontró que era discriminatoria hacia las mujeres. Los modelos se basaron en currículos enviados a la empresa durante 10 años, principalmente por hombres. Esto llevó al algoritmo a favorecer candidatos masculinos y penalizar solicitudes con la palabra "mujer".
Además de las bases de datos sesgadas, los equipos de desarrollo poco diversos también son un problema. Empresas sin diversidad pueden desarrollar productos excluyentes. En un estudio, programas de reconocimiento facial malclasificaron a mujeres de piel oscura en más del 30%. La falta de diversidad y supervisión resulta en tecnologías que amplifican desigualdades.
La IA puede crear perfiles sorprendentemente precisos de personas. Los algoritmos detectan patrones y pueden predecir la futura ubicación de un usuario observando su historial de ubicaciones pasadas. Si se combinan datos de localización de amigos y contactos, la predicción se vuelve aún más precisa. A veces se subestima esta característica de la IA. Aunque creas que no importa quién conozca tus movimientos, es probable que eso no sea completamente cierto. Incluso si no haces nada ilegal, podrías preferir que tu información personal no sea pública. No vivirías en una casa con paredes transparentes. Entonces, ¿realmente no te preocupa compartir el historial de ubicaciones de tu dispositivo? ¿Y el de tu hija adolescente? ¿Te sentirías cómodo si alguien publicara tus datos de localización y predicciones? Probablemente no. La información es poder, y entregamos poder sobre nosotros al ceder información.
Desinformación
El aumento de la desinformación es una de las consecuencias negativas de la IA que ya estamos viendo. Extinction Rebellion creó un deepfake ficticio de la primera ministra belga Sophie Wilmès en 2020. Utilizaron un video real de su discurso y usaron IA para alterar sus palabras. El resultado fue desinformación. El video falso mostraba a Wilmès hablando sobre COVID-19 y culpando a la "explotación y destrucción humana del entorno natural" por la pandemia. Este no fue un caso aislado. Los deepfakes se usarán cada vez más para campañas de desinformación, amenazando la democracia y polarizando la sociedad. Sumados a los bots, que generan textos falsos como noticias alteradas o tuits ficticios, estas tecnologías difuminan la línea entre realidad y ficción, socavando la confianza en instituciones políticas.
Impacto ambiental
Aunque la IA puede tener un impacto ambiental positivo al optimizar redes eléctricas o ciudades inteligentes de bajas emisiones, su intensivo uso de energía también puede causar daños. Un estudio de 2019 encontró que un tipo de IA (aprendizaje profundo en procesamiento de lenguaje natural) tiene una gran huella de carbono debido al combustible requerido por el hardware. Se estima que entrenar un solo modelo de IA emite 300,000 kg de CO2, equivalente a 125 vuelos de Nueva York a Pekín o cinco veces las emisiones de vida útil de un automóvil estadounidense promedio. Además del entrenamiento, la infraestructura alrededor de la implementación de la IA también emite carbono, desde la construcción de centros de datos hasta el transporte de materiales.
Dominio de las grandes empresas tecnológicas
Las grandes empresas tecnológicas dominan la IA. Google ha adquirido al menos 30 compañías de IA desde 2007, estableciendo un gran monopolio en la tecnología de IA. No está solo: en 2016, Google, Apple, Facebook, Microsoft y Amazon, junto con empresas chinas, invirtieron $30,000 millones de un total mundial estimado de $39,000 millones en investigación, desarrollo y adquisiciones de IA. Esta concentración de poder es peligrosa, ya que estas empresas se vuelven principales proveedores de IA para otros. Esto podría socavar gobiernos democráticamente elegidos.
Conforme la automatización cognitiva desempeña un papel cada vez más relevante en la vida diaria, su posible impacto en la sociedad y nuestras rutinas es un asunto que todos deberíamos comprender y debatir.
Pérdida de empleos
Frente al creciente temor de que la automatización y la inteligencia artificial transformen las formas de trabajo y conduzcan al aumento del desempleo, surgen cuestionamientos sobre cuáles trabajos serán reemplazados por máquinas en el futuro. Algunos expertos sugieren que los cambios laborales son inminentes: en 2030, se estima que entre 75 y 375 millones de trabajadores (3% al 14% de la población activa global) tendrán que cambiar de empleo y adquirir nuevas habilidades. Estas cifras varían ampliamente, reflejando las distintas visiones de expertos tecnológicos y empresariales sobre el futuro laboral. En resumen, es complicado determinar cuántos puestos de trabajo realmente se perderán.
La transición hacia un mundo más automatizado plantea un reto importante para muchas naciones, ya que asegurar que la fuerza laboral cuente con las capacidades y el apoyo necesarios para adaptarse a nuevos trabajos no es sencillo. Especialmente porque la automatización impacta más en empleos menos calificados, como labores administrativas, construcción o logística. La implementación de la robótica y la IA reduce los empleos disponibles en sectores menos especializados y afecta negativamente a trabajos de remuneración baja. Esto podría generar polarización de ingresos y desempleo generalizado. La inseguridad económica, como vimos en el pasado, amenaza a las democracias, erosionando la confianza en las instituciones políticas y generando malestar en el sistema. En consecuencia, la forma en que la IA transforma el trabajo podría allanar el camino para que los votantes respalden a partidos populistas y adopten una actitud crítica hacia las democracias liberales representativas.
Opacidad en el funcionamiento
La automatización cognitiva puede tener defectos en varios aspectos, por lo que la transparencia es crucial. Los datos utilizados para su aprendizaje pueden contener errores o estar mal filtrados. Además, los científicos e ingenieros que entrenaron el modelo podrían haber seleccionado conjuntos de datos sesgados sin darse cuenta. Dado que pueden ocurrir muchas cosas mal, el problema real es la falta de visibilidad: no saber por qué no funciona adecuadamente, o peor aún, en ocasiones ni siquiera darse cuenta de que está funcionando mal. En el desarrollo de una aplicación típica, hay procesos de garantía de calidad y herramientas de prueba para detectar errores rápidamente.
No obstante, la IA no se trata solo de código; a menudo, los modelos subyacentes no son fácilmente analizables para encontrar fallos. Algunos algoritmos de aprendizaje automático son inexplicables o se mantienen en secreto (por intereses comerciales), lo que limita la comprensión de los sesgos o problemas que pueden surgir. En Estados Unidos, los tribunales comenzaron a utilizar algoritmos para evaluar el "riesgo" de que un acusado cometa otro delito y así fundamentar decisiones sobre fianzas y sentencias. El problema es que no existe una supervisión adecuada y transparente en el funcionamiento de estas herramientas.
Sin salvaguardias y leyes federales que establezcan normas o exijan inspección, estas herramientas amenazan con socavar el Estado de derecho y reducir los derechos individuales. En el caso de Eric Loomis, por ejemplo, un juez lo condenó en gran parte debido a la puntuación de "alto riesgo" que obtuvo de Compas, una herramienta de evaluación de riesgos. Sin embargo, el juez ni nadie sabía cómo Compas llegó a la decisión de que Loomis era de "alto riesgo" para la sociedad. Compas podría basar sus decisiones en factores injustos, racistas, discriminatorios o sexistas sin nuestro conocimiento.
Algoritmos parciales y discriminatorios
Esto nos lleva al siguiente tema: el "sesgo", que no es solo un problema cultural, sino también técnico. Defectos de diseño o datos desequilibrados pueden resultar en algoritmos parciales. Así, la IA puede perpetuar estereotipos raciales, de género y de edad existentes, aumentando las desigualdades. Por ejemplo, Amazon usó una herramienta de IA para evaluar candidatos y se encontró que era discriminatoria hacia las mujeres. Los modelos se basaron en currículos enviados a la empresa durante 10 años, principalmente por hombres. Esto llevó al algoritmo a favorecer candidatos masculinos y penalizar solicitudes con la palabra "mujer".
Además de las bases de datos sesgadas, los equipos de desarrollo poco diversos también son un problema. Empresas sin diversidad pueden desarrollar productos excluyentes. En un estudio, programas de reconocimiento facial malclasificaron a mujeres de piel oscura en más del 30%. La falta de diversidad y supervisión resulta en tecnologías que amplifican desigualdades.
La creación de perfiles
La IA puede crear perfiles sorprendentemente precisos de personas. Los algoritmos detectan patrones y pueden predecir la futura ubicación de un usuario observando su historial de ubicaciones pasadas. Si se combinan datos de localización de amigos y contactos, la predicción se vuelve aún más precisa. A veces se subestima esta característica de la IA. Aunque creas que no importa quién conozca tus movimientos, es probable que eso no sea completamente cierto. Incluso si no haces nada ilegal, podrías preferir que tu información personal no sea pública. No vivirías en una casa con paredes transparentes. Entonces, ¿realmente no te preocupa compartir el historial de ubicaciones de tu dispositivo? ¿Y el de tu hija adolescente? ¿Te sentirías cómodo si alguien publicara tus datos de localización y predicciones? Probablemente no. La información es poder, y entregamos poder sobre nosotros al ceder información.
Desinformación
El aumento de la desinformación es una de las consecuencias negativas de la IA que ya estamos viendo. Extinction Rebellion creó un deepfake ficticio de la primera ministra belga Sophie Wilmès en 2020. Utilizaron un video real de su discurso y usaron IA para alterar sus palabras. El resultado fue desinformación. El video falso mostraba a Wilmès hablando sobre COVID-19 y culpando a la "explotación y destrucción humana del entorno natural" por la pandemia. Este no fue un caso aislado. Los deepfakes se usarán cada vez más para campañas de desinformación, amenazando la democracia y polarizando la sociedad. Sumados a los bots, que generan textos falsos como noticias alteradas o tuits ficticios, estas tecnologías difuminan la línea entre realidad y ficción, socavando la confianza en instituciones políticas.
Impacto ambiental
Aunque la IA puede tener un impacto ambiental positivo al optimizar redes eléctricas o ciudades inteligentes de bajas emisiones, su intensivo uso de energía también puede causar daños. Un estudio de 2019 encontró que un tipo de IA (aprendizaje profundo en procesamiento de lenguaje natural) tiene una gran huella de carbono debido al combustible requerido por el hardware. Se estima que entrenar un solo modelo de IA emite 300,000 kg de CO2, equivalente a 125 vuelos de Nueva York a Pekín o cinco veces las emisiones de vida útil de un automóvil estadounidense promedio. Además del entrenamiento, la infraestructura alrededor de la implementación de la IA también emite carbono, desde la construcción de centros de datos hasta el transporte de materiales.
Dominio de las grandes empresas tecnológicas
Las grandes empresas tecnológicas dominan la IA. Google ha adquirido al menos 30 compañías de IA desde 2007, estableciendo un gran monopolio en la tecnología de IA. No está solo: en 2016, Google, Apple, Facebook, Microsoft y Amazon, junto con empresas chinas, invirtieron $30,000 millones de un total mundial estimado de $39,000 millones en investigación, desarrollo y adquisiciones de IA. Esta concentración de poder es peligrosa, ya que estas empresas se vuelven principales proveedores de IA para otros. Esto podría socavar gobiernos democráticamente elegidos.
