La inteligencia artificial promete revolucionar la industria de maneras hasta ahora difíciles de imaginar, pero sus efectos pueden escapar a todo control si no somos cuidadosos. Manuel Sans Segarra, uno de los expertos en España  de esta tecnología, es muy claro al advertirte sobre el doble filo de la IA: “Puede llegar a hacer auténticas barbaridades”.

Aunque la IA generativa se presenta como una herramienta con beneficios innegables, su poder es tan grande que también podría conducirnos por caminos peligrosos si no se establecen rápidamente controles eficaces.

Y es que tecnologías como Copilot, Gemini o ChatGPT ya son una realidad en el día a día de muchas personas, quizás algunas otras aún no sean plenamente conscientes de hasta qué punto afecta en la rutina. Segarra explica que gracias a la IA, avances como la longevidad han dado un salto impresionante. 

Hace apenas un siglo, la esperanza de vida media no superaba los 40 años, mientras que actualmente ronda los 85, aumentando de forma sostenida cada pocos años. Esta mejora constante no es casualidad, sino fruto de la aplicación de algoritmos inteligentes que analizan rápidamente enormes cantidades de datos. 

En medicina, por ejemplo, la IA permite diagnosticar enfermedades mucho antes de que aparezcan síntomas visibles, anticipando tratamientos eficaces e individualizados que aumentan drásticamente la calidad de vida. Lo mismo ocurre en áreas como la genética o la farmacología, donde el potencial para transformar positivamente la sociedad es enorme.

Por qué la regulación es una necesidad urgente

Sin embargo, pese a este panorama, Sans Segarra insiste en que la IA no puede avanzar sin frenos ni controles. Es aquí donde entra en juego lo que él denomina “supraconciencia”, que es la capacidad humana única para crear y gestionar los algoritmos que impulsan estas inteligencias artificiales. 

En otras palabras, por muy potente que sea una IA, sigue dependiendo totalmente de los humanos. Esta dependencia no solo es tecnológica, sino ética y moral. El experto advierte que si no se establecen límites claros mediante regulaciones rigurosas, la IA podría descontrolarse. 

Esto es una advertencia basada en una herramienta poderosa, sin control que  puede volverse contra quienes la usan. Por eso, resulta indispensable que te preguntes qué tipo de regulaciones deben aplicarse y con qué urgencia para garantizar que la IA siga siendo aliada y no enemiga.

Para entender mejor esta advertencia, Sans Segarra ofrece una comparación, donde el paralelismo entre la inteligencia artificial y la mecánica cuántica. Ambos son grandes hitos científicos capaces de generar progreso, pero también potencialmente destructivos si caen en malas manos o se usan sin control. 

La mecánica cuántica, que quizá sientas como algo lejano, es en realidad responsable directa de una buena parte de la tecnología que utilizas cada día, desde ordenadores hasta telecomunicaciones. Sin embargo, también facilitó la creación de armas devastadoras, como la bomba atómica. 

Este ejemplo, elegido conscientemente por el experto, ilustra a la perfección la dualidad que caracteriza a cualquier avance científico de gran calado. Con la IA podría ocurrir exactamente lo mismo, salvo que actuemos ahora mismo para evitarlo.

Escenarios reales que preocupan a los expertos

Imagínate situaciones concretas y reales en las que una inteligencia artificial, mal regulada o descontrolada, podría causarte perjuicios directos. Sans Segarra menciona especialmente riesgos que afectarían ámbitos clave como la economía, la defensa o incluso tu propia salud. 

Por ejemplo, piensa en algoritmos financieros que manejan inversiones de millones de personas: un error o manipulación podría generar pérdidas catastróficas y crisis globales en cuestión de minutos. Algo similar podría suceder con sistemas militares autónomos que tomen decisiones erróneas, desencadenando conflictos graves de forma inadvertida. 

Y no olvides el ámbito sanitario, donde decisiones automatizadas mal planteadas podrían provocar daños irreversibles. Estos ejemplos prácticos no son ciencia ficción, sino escenarios plausibles sobre los que debes estar informado para exigir regulaciones eficaces cuanto antes.

Finalmente, debemos ser consciente del momento crucial en el que vivimos, donde la sociedad se encuentra ante una encrucijada histórica, que es decidir cómo gestionar una herramienta poderosa como la inteligencia artificial. 

El desafío no consiste en rechazar o aceptar la IA, sino en aprender a manejarla con responsabilidad para evitar sus posibles abusos. Sans Segarra deja claro que esta responsabilidad no es solo de científicos o políticos, sino de cada uno de nosotros. 

Debemos tomar conciencia de este debate, porque las decisiones tomadas hoy marcarán inevitablemente el mundo en el que vivirás en las próximas décadas. Es tu futuro, y tienes derecho a formar parte de la conversación sobre cómo debe emplearse esta poderosa tecnología. 

Conoce cómo trabajamos en ComputerHoy.

Etiquetas: Inteligencia artificial, España