Geoffrey Hinton, considerado el \u201cpadrino de la IA\u201d y ganador del Premio Turing, afirm\u00f3 esta semana que la \u00fanica forma de que la humanidad sobreviva a una inteligencia artificial superinteligente pasa por cambios estructurales en el dise\u00f1o y la gobernanza de estas tecnolog\u00edas. Sus declaraciones, que han vuelto a encender el debate global, cuestionan las estrategias actuales de la industria tecnol\u00f3gica para mantener a las m\u00e1quinas \u201csumisas\u201d.<\/p>\n
Hinton, que en ocasiones anteriores ha se\u00f1alado entre un 10% y un 20% la probabilidad de que la IA pueda representar una amenaza existencial para la humanidad, dijo el martes que muchos enfoques promovidos por empresas y algunos inversores \u2014a los que describi\u00f3 en t\u00e9rminos coloquiales como \u201ctech bros\u201d\u2014 son insuficientes. Seg\u00fan el investigador, confiar \u00fanicamente en m\u00e9todos de entrenamiento que intentan inducir comportamientos \u201cobedientes\u201d en los modelos no resolver\u00e1 el problema si la arquitectura subyacente y el acceso a capacidad de c\u00e1lculo siguen escalando sin controles.<\/p>\n
El experto subray\u00f3 la necesidad de repensar c\u00f3mo se entrenan y controlan los sistemas: abog\u00f3 por arquitecturas m\u00e1s interpretables y por l\u00edmites al acceso irrestricto a gran potencia de c\u00f3mputo, adem\u00e1s de sistemas de supervisi\u00f3n externos que permitan auditar decisiones y razonar sobre posibles comportamientos emergentes. Para Hinton, la transparencia t\u00e9cnica y la cooperaci\u00f3n internacional en regulaciones son imprescindibles para reducir riesgos a largo plazo.<\/p>\n
Especialistas en Costa Rica y la regi\u00f3n valoran la advertencia como una llamada de atenci\u00f3n. \u201cNo es s\u00f3lo un problema t\u00e9cnico, es pol\u00edtico y social\u201d, dijo un acad\u00e9mico costarricense del \u00e1rea de ciencias de la computaci\u00f3n, que pidi\u00f3 mantener la identidad. \u201cNecesitamos pol\u00edticas p\u00fablicas que incentivien la investigaci\u00f3n en seguridad de la IA y mecanismos internacionales que impidan una carrera descontrolada por la potencia de c\u00e1lculo.\u201d<\/p>\n
Las empresas tecnol\u00f3gicas han replicado en ocasiones que la investigaci\u00f3n en seguridad y alineamiento avanza y que las medidas de gobernanza deben equilibrar innovaci\u00f3n y riesgo. Sin embargo, Hinton sostuvo que los incentivos actuales \u2014competencia por liderar capacidades de modelo y por aplicaciones comerciales\u2014 pueden empujar a atajos peligrosos si no hay reglas claras.<\/p>\n
En el plano local, el debate ya tiene resonancia: organizaciones civiles y universidades en Centroam\u00e9rica impulsan foros sobre \u00e9tica y regulaci\u00f3n de IA, y expertos piden que Costa Rica participe activamente en marcos regionales de gobernanza. Para el sector productivo, la posibilidad de regulaciones m\u00e1s estrictas plantea preguntas sobre inversi\u00f3n y adopci\u00f3n de tecnolog\u00eda, pero muchos coinciden en que un enfoque responsable podr\u00eda evitar da\u00f1os mayores y generar confianza.<\/p>\n
Si la propuesta de Hinton gana adhesi\u00f3n, implica desacelerar ritmos de despliegue, invertir en auditor\u00eda independiente y priorizar la investigaci\u00f3n que haga a los sistemas m\u00e1s comprensibles y controlables. En \u00faltima instancia, su mensaje remarca que la supervivencia ante una IA superinteligente no vendr\u00e1 de parches empresariales, sino de cambios profundos en c\u00f3mo se dise\u00f1a, regula y gobierna la tecnolog\u00eda.<\/p>\n","protected":false},"excerpt":{"rendered":"
Geoffrey Hinton, considerado el \u201cpadrino de la IA\u201d y ganador del Premio Turing, afirm\u00f3 esta semana que la \u00fanica forma de que la humanidad sobreviva a una inteligencia artificial superinteligente pasa por cambios estructurales en el dise\u00f1o y la gobernanza de estas tecnolog\u00edas. Sus declaraciones, que han vuelto a encender el debate global, cuestionan las […]<\/p>\n","protected":false},"author":11,"featured_media":18342,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"episode_type":"","audio_file":"","podmotor_file_id":"","podmotor_episode_id":"","cover_image":"","cover_image_id":"","duration":"","filesize":"","filesize_raw":"","date_recorded":"","explicit":"","block":"","itunes_episode_number":"","itunes_title":"","itunes_season_number":"","itunes_episode_type":"","footnotes":""},"categories":[54],"tags":[],"class_list":{"0":"post-18271","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-economics"},"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t