![](\"http:\/\/1.bp.blogspot.com\/-shZSV2gosqY\/WaOtdCvjb4I\/AAAAAAAACw0\/sRGvLa4L8aMlT4YnoP3ADZME0wK4_-y1QCK4BGAYYCw\/s1600\/IA-Adam-Ferris2.jpg\")
<\/a><\/td>\n<\/tr>\nLa misteriosa mente de este veh\u00edculo se\u00f1ala un problema cada vez m\u00e1s palpable de la inteligencia artificial. La tecnolog\u00eda de IA del coche, conocida como aprendizaje profundo ha tenido mucho \u00e9xito resolviendo problemas en los \u00faltimos a\u00f1os, y cada vez se usa m\u00e1s en labores como generar subt\u00edtulos, reconocer la voz y traducir idiomas. Estas mismas t\u00e9cnicas podr\u00edan llegar a ser capaces de diagnosticar enfermedades mortales, tomar decisiones burs\u00e1tiles multimillonarias y transformar industrias al completo.<\/p>\n
Pero esto no suceder\u00e1 (o no deber\u00eda) a menos que consigamos que las t\u00e9cnicas como el aprendizaje profundo resulten m\u00e1s comprensibles para sus creadores y rindan cuentas ante los usuarios. En caso contrario, resultar\u00e1 dif\u00edcil predecir cu\u00e1ndo se podr\u00edan producir fallos, los cuales son inevitables. Este es uno de los motivos por los que el coche de Nvidia a\u00fan es experimental.<\/p>\n
Ya se est\u00e1n empleando modelos matem\u00e1ticos para ayudar a determinar qui\u00e9n recibe la libertad condicional<\/b>, qui\u00e9n es apto para obtener pr\u00e9stamos y qui\u00e9n es contratado para ocupar un puesto vacante. Si se pudiese acceder a estos modelos matem\u00e1ticos, ser\u00eda posible entender su razonamiento.<\/b> Pero los bancos, el ej\u00e9rcito y los empleadores est\u00e1n centr\u00e1ndose en enfoques de aprendizaje autom\u00e1tico a\u00fan m\u00e1s complejos que podr\u00edan resultar totalmente inescrutables.<\/p>\n
\u2026<\/p>\n
El l\u00edder del equipo de Siri de Apple, Tom Gruber, dice que el car\u00e1cter explicable es una consideraci\u00f3n clave para su equipo en sus esfuerzos por hacerla m\u00e1s inteligente y h\u00e1bil. Gruber no quiso hablar de planes espec\u00edficos para el futuro de Siri, pero resulta f\u00e1cil imaginar que al recibir una recomendaci\u00f3n de un restaurante, se quiera conocer el razonamiento subyacente. El director de investigaciones de IA de Apple y profesor de la Universidad de Carnegie Mellon (EEUU), Ruslan Salakhutdinov, considera que la capacidad de explicarse es el n\u00facleo de la relaci\u00f3n en evoluci\u00f3n entre los humanos y las m\u00e1quinas inteligentes. \u201cVa a generar confianza\u201d, afirma.<\/b><\/p>\n
\u2026<\/p>\n
Al igual que muchos aspectos del comportamiento humano resultan imposibles de explicar en detalle, tal vez no ser\u00e1 posible que la inteligencia artificial llegue a explicar todo lo que hace. \u201cIncluso si alguien te puede dar una explicaci\u00f3n razonable [de sus acciones], probablemente estar\u00e1 incompleta, y lo mismo podr\u00eda aplicarse a la inteligencia artificial\u201d, sugiere Clune.<\/b> El experto a\u00f1ade: \u201cSimplemente podr\u00eda ser una parte de la propia naturaleza de la inteligencia el hecho de que s\u00f3lo una fracci\u00f3n est\u00e1 sujeta a explicaciones racionales. Parte de ella es simplemente instintiva, o subconsciente o inescrutable\u201d.<\/p>\n
\u2026<\/p>\n
Al igual que la sociedad se construye sobre una base de comportamientos aceptables, necesitaremos dise\u00f1ar los sistemas de IA para respetar y encajar con nuestras normas sociales. Si vamos a crear tanques rob\u00f3ticos y otras m\u00e1quinas de matar, es importante que su toma de decisiones concuerde con nuestros juicios \u00e9ticos.<\/i><\/b><\/p>\n
Daniel Dennett, que estudia la consciencia y la mente. Un cap\u00edtulo de su \u00faltimo libro, From Bacteria to Bach and Back, un tratado enciclop\u00e9dico sobre la consciencia, sugiere que una parte natural de la evoluci\u00f3n de la propia inteligencia consiste en desarrollar sistemas capaces de ejecutar tareas que sus creadores son incapaces de ejecutar. \u201cLa pregunta es: \u00bfqu\u00e9 adaptaciones tenemos que hacer para hacerlo bien, qu\u00e9 est\u00e1ndares debemos exigirles que cumplan a ellos, y a nosotros mismos?\u201d<\/b>, me pregunta dentro de su abarrotado despacho en el id\u00edlico campus de la universidad.<\/p>\n
Tambi\u00e9n me hizo una advertencia sobre la b\u00fasqueda del car\u00e1cter explicable: \u201cCreo que si vamos a utilizar estas cosas y depender de ellas, entonces necesitamos el mejor entendimiento posible de c\u00f3mo y por qu\u00e9 nos proporcionan respuestas\u201d, sugiere. Pero, puesto que podr\u00eda no existir ninguna respuesta perfecta, deber\u00edamos mostrarnos igual de cautelosos ante las explicaciones de la IA como nos mostramos ante las explicaciones humanas, independientemente de lo lista que parezca la m\u00e1quina. Dennet concluye: \u201cSi no puede explicar lo que hace mejor que nosotros, entonces no te f\u00edes\u201d.<\/b><\/p>\n","protected":false},"excerpt":{"rendered":"
\u2026resulta f\u00e1cil imaginar que al recibir una recomendaci\u00f3n de un restaurante, se quiera conocer el razonamiento subyacente. Smart Lighting \u2013 El secreto m\u00e1s oscuro de la inteligencia artificial: \u00bfpor qu\u00e9 hace lo que hace? Adam Ferriss La misteriosa mente de este veh\u00edculo se\u00f1ala un problema cada vez m\u00e1s palpable de la inteligencia artificial. La tecnolog\u00eda […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1170","post","type-post","status-publish","format-standard","hentry","category-sin-categoria"],"jetpack_featured_media_url":"","jetpack-related-posts":[],"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/silta.es\/juantatay\/wp-json\/wp\/v2\/posts\/1170","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/silta.es\/juantatay\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/silta.es\/juantatay\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/silta.es\/juantatay\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/silta.es\/juantatay\/wp-json\/wp\/v2\/comments?post=1170"}],"version-history":[{"count":0,"href":"https:\/\/silta.es\/juantatay\/wp-json\/wp\/v2\/posts\/1170\/revisions"}],"wp:attachment":[{"href":"https:\/\/silta.es\/juantatay\/wp-json\/wp\/v2\/media?parent=1170"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/silta.es\/juantatay\/wp-json\/wp\/v2\/categories?post=1170"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/silta.es\/juantatay\/wp-json\/wp\/v2\/tags?post=1170"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}