¿Puede startups hacer que la IA sea ética y responsable?

La Inteligencia Artificial (IA) está de moda, pero también lo está la preocupación por su ética y su uso responsable. En palabras de la UNESCO, los problemas de la IA provienen de quienes han contribuido a hacerla posible y de su visión de la sociedad. Como resultado, todo, desde el contenido sexualizado y sesgado hasta la forma en que crea arte (utilizando una fuerte influencia de artistas ya existentes), es objeto de debate. Afortunadamente, startups está trabajando duro para cambiar esta situación, y su propia esencia lo hace posible. 

No se puede negar que vivimos tiempos intrigantes que, para algunos, pueden resultar intimidantes, sobre todo cuando incluso el CEO de OpenAI, Sam Altman, advierte de lo rápido que están cambiando las cosas. Los puestos de trabajo están en juego y dependemos demasiado de una tecnología que aún necesita mejoras. Así pues, la presión es grande, y startups está trabajando duro para garantizar que la IA sea útil para la sociedad. 

En cuanto a la ética, startups tiene un superpoder: la capacidad de darle prioridad desde el principio. A diferencia de las grandes empresas estancadas en sus viejas costumbres, startups es ágil. Pueden incorporar consideraciones éticas a sus sistemas de IA desde el principio y han liderado el desarrollo de directrices éticas y mejores prácticas que pueden dar forma a toda la industria.

Una de las cosas más frustrantes de la IA es, irónicamente, su toma de decisiones. Cualquiera que haya utilizado estas plataformas puede sentirse identificado. Le pides a la IA que haga algo y, al ver los resultados, no tienes ni idea de cómo o por qué ha llegado a esas conclusiones. Además, incluso grandes nombres como Microsoft y Google han advertido de que la IA se basa en bases de datos defectuosas. 

Por lo tanto, el escenario está preparado para el caos de la IA. Parece que necesitamos gente que trabaje duro para crear sistemas de IA que puedan ser explorados y explicados a nosotros, la gente normal. De hecho, incluso existe un término para ello: IA ética, y la lista es cada día más larga. Ahí es donde entra startups , con la esperanza de salvar el día. 

La idea es que estos startups trabajen con los sistemas de IA existentes, haciéndolos éticos, o construyan productos que eliminen el sesgo, la injusticia y la falta de ética que plagan nuestra sociedad mediante la creación de cosas interesantes como algoritmos de IA explicables y herramientas de visualización que nos den una mirada detrás de la cortina de la IA. Ahora por fin podemos entender cómo se toman estas decisiones de IA, y eso es una gran victoria para la transparencia y la confianza.

Uno de los problemas más importantes de la IA es el sesgo, pero startups , como Neurons, tiene la misión de detectar y abordar los sesgos en los algoritmos de IA, los datos y los procesos de toma de decisiones. Neurons es una plataforma danesa de neurociencia y aprendizaje automático que utiliza la neurociencia para mejorar productos, marcas y experiencias. La tracción de la startup es tan sustancial que incluso ha atraído a la ex Primera Ministra danesa, Helle Thorning-Schmidt, para que se una al Consejo de Administración. Su presencia es vital para ayudar a tomar las decisiones correctas con las bases de datos adecuadas, que son esenciales para startups, pero a las que sólo unos pocos tienen acceso. 

Lo fascinante es que incluso quienes pertenecen al mundo de las startups ya están advirtiendo a los demás sobre el uso demasiado entusiasta de la IA, especialmente cuando no la entendemos del todo. Por eso, es mejor que pongamos freno a nuestra adicción. Por ejemplo, el experto en IA Lance Eliot nos advirtió hace poco de que apoyarse demasiado en plataformas como ChatGPT es arriesgado. Al fin y al cabo, una plataforma así podría convertirse en peligrosamente masiva por las razones equivocadas. Así, por ejemplo, muchos fundadores de startups necesitan aprender cuáles son los usos prohibidos y los detalles minuciosos que podrían interponerse en el camino de la creación de un uso exitoso y, lo que es más importante, ético de la IA. 

Esto no quiere decir que startups no deba utilizar la IA, sino todo lo contrario. De hecho, muchas empresas de startups utilizan la IA para salvar el mundo a su manera. No lo hacen sólo para obtener beneficios: les mueve el deseo de influir positivamente en la sociedad y el medio ambiente. Desde el diagnóstico sanitario a la mitigación de la pobreza, la vigilancia del cambio climático, la respuesta ante catástrofes y la mejora del acceso a la educación, startups utiliza la IA para resolver problemas del mundo real. Están demostrando que la IA puede ser una fuerza positiva, y eso es asombroso.

Un ejemplo de ello es QuantPi, una startup alemana que se centra en proporcionar una plataforma en la que otras compañías y empresas puedan identificar y mitigar los riesgos que conllevan sus soluciones de IA, incluidos los éticos, comerciales y de reputación. Piense en ello como una auditoría de garantía de calidad de la IA. Como resultado, la empresa consiguió financiación esencial en 2022 para ayudar a ampliar sus servicios. 

Esfuerzos como QuantPi son esenciales y (afortunadamente) cada vez son más comunes. Podemos pensar en este esfuerzo como si los músicos formaran una banda, aportando habilidades únicas para crear algo asombroso. Por ejemplo, las instituciones académicas son como escuelas de música a las que startups acude para aprender nuevas técnicas y ampliar sus conocimientos. Al asociarse con estas instituciones, startups obtiene acceso a las últimas investigaciones y a la experiencia académica en ética de la IA. 

Luego están las organizaciones sin ánimo de lucro, que podrían actuar como sellos discográficos con conciencia social. Se aseguran de que startups utilice IA que aborde problemas del mundo real. Además, estas asociaciones proporcionan orientación sobre marcos éticos, garantizando que las melodías de IA que se tocan sean pegadizas y responsables. Por último, hay líderes de la industria que actúan como miembros experimentados de una banda que lleva tiempo dando caña en la escena de la IA. Actúan como mentores de startups. Es como una jam session en la que todos aportan su experiencia, afinando las melodías de la IA para conseguir el máximo impacto ético.

Juntas, estas colaboraciones crean un ecosistema armonioso de IA ética. Al unir fuerzas, startups, instituciones académicas, organizaciones sin ánimo de lucro y líderes del sector crean una sinfonía colectiva que eleva las prácticas éticas de la IA, fomentando la innovación y garantizando que la "música" de la IA que se interpreta resuena con las necesidades y los valores de la sociedad.

Startups están impulsando el movimiento en favor de una IA ética y responsable, y lo están haciendo formando colaboraciones increíbles. Al igual que una banda en la que músicos de talento se unen para crear música hermosa, startups se está asociando con instituciones académicas, organizaciones sin ánimo de lucro y líderes del sector para hacer realidad la IA ética. Es una colaboración genial, que demuestra que cuando trabajamos juntos, podemos hacer que la IA cante en perfecta armonía con nuestros valores y aspiraciones.

‍

¿Quiere más contenido como éste? Suscríbete a nuestro boletín semanal gratuito. Se convertirá rápidamente en su ventanilla única de noticias sobre startups.

Suscríbase aquí

‍