Geoffrey Hinton, considerado el “padrino de la IA” y ganador del Premio Turing, afirmó esta semana que la única forma de que la humanidad sobreviva a una inteligencia artificial superinteligente pasa por cambios estructurales en el diseño y la gobernanza de estas tecnologías. Sus declaraciones, que han vuelto a encender el debate global, cuestionan las estrategias actuales de la industria tecnológica para mantener a las máquinas “sumisas”.
Hinton, que en ocasiones anteriores ha señalado entre un 10% y un 20% la probabilidad de que la IA pueda representar una amenaza existencial para la humanidad, dijo el martes que muchos enfoques promovidos por empresas y algunos inversores —a los que describió en términos coloquiales como “tech bros”— son insuficientes. Según el investigador, confiar únicamente en métodos de entrenamiento que intentan inducir comportamientos “obedientes” en los modelos no resolverá el problema si la arquitectura subyacente y el acceso a capacidad de cálculo siguen escalando sin controles.
El experto subrayó la necesidad de repensar cómo se entrenan y controlan los sistemas: abogó por arquitecturas más interpretables y por límites al acceso irrestricto a gran potencia de cómputo, además de sistemas de supervisión externos que permitan auditar decisiones y razonar sobre posibles comportamientos emergentes. Para Hinton, la transparencia técnica y la cooperación internacional en regulaciones son imprescindibles para reducir riesgos a largo plazo.
Especialistas en Costa Rica y la región valoran la advertencia como una llamada de atención. “No es sólo un problema técnico, es político y social”, dijo un académico costarricense del área de ciencias de la computación, que pidió mantener la identidad. “Necesitamos políticas públicas que incentivien la investigación en seguridad de la IA y mecanismos internacionales que impidan una carrera descontrolada por la potencia de cálculo.”
Las empresas tecnológicas han replicado en ocasiones que la investigación en seguridad y alineamiento avanza y que las medidas de gobernanza deben equilibrar innovación y riesgo. Sin embargo, Hinton sostuvo que los incentivos actuales —competencia por liderar capacidades de modelo y por aplicaciones comerciales— pueden empujar a atajos peligrosos si no hay reglas claras.
En el plano local, el debate ya tiene resonancia: organizaciones civiles y universidades en Centroamérica impulsan foros sobre ética y regulación de IA, y expertos piden que Costa Rica participe activamente en marcos regionales de gobernanza. Para el sector productivo, la posibilidad de regulaciones más estrictas plantea preguntas sobre inversión y adopción de tecnología, pero muchos coinciden en que un enfoque responsable podría evitar daños mayores y generar confianza.
Si la propuesta de Hinton gana adhesión, implica desacelerar ritmos de despliegue, invertir en auditoría independiente y priorizar la investigación que haga a los sistemas más comprensibles y controlables. En última instancia, su mensaje remarca que la supervivencia ante una IA superinteligente no vendrá de parches empresariales, sino de cambios profundos en cómo se diseña, regula y gobierna la tecnología.
