Qué son los algoritmos de caja negra y por qué se han convertido en un misterio urgente por resolver
19/09/2018 - 15:39:27
BBC.- �Qu� es un algoritmo? Es una palabra de moda, pero a muchos todav�a nos cuesta comprender su significado.
El diccionario de la Real Academia Espa�ola lo define como "un conjunto ordenado y finito de operaciones que permite hallar la soluci�n de un problema".
Pero en la sociedad contempor�nea, los algoritmos han adquirido un rol cada vez m�s central, haciendo que algunos los definan como una suerte de mano invisible que toma decisiones por nosotros.
5 algoritmos que ya est�n tomando decisiones sobre tu vida y que quiz�s t� no sab�as
"Todo lo que la gente hace y ve en la web es producto de algoritmos", explican en un informe expertos del centro independiente de investigaci�n Pew Research Center, con sede en Washington, Estados Unidos.
En otras palabras, son el mecanismo oculto responsable de lo que vemos en el muro Facebook, las sugerencias que nos muestra Netflix o los resultados que aparecen cuando introducimos una palabra en el buscador de Google.
Y, a veces, pueden incluso ser los responsables de que seamos seleccionados o rechazados para un trabajo, recibamos un pr�stamo o incluso se caiga la bolsa de Wall Street.
C�mo funcionan y c�mo pueden afectarte los algoritmos que seleccionan candidatos de trabajo
Falta de transparencia
Por todas esas razones cada vez preocupa m�s que los algoritmos usados por los gigantes tecnol�gicos no sean siempre justos en las decisiones que toman. Y los errores en los sistemas de reconocimiento facial son un ejemplo de ello.
Pero adem�s, a menudo los algoritmos operan dentro de lo que se conoce como "cajas negras", lo que significa que ni siquiera sus due�os pueden ver c�mo est�n tomando esas decisiones.
Por eso algunas compa��as tecnol�gicas, como IBM, est�n buscando soluciones a ese problema.
El gigante estadounidense acaba de presentar un nuevo servicio de software que "detecta autom�ticamente los sesgos (de los algoritmos) y proporciona la explicaci�n sobre las decisiones que toma la inteligencia artificial", se lee en un comunicado publicado este mi�rcoles.
La idea es que con el Fairness 360 Kit sus clientes puedan observar en tiempo real -a trav�s de un panel visual- c�mo los algoritmos toman decisiones y qu� factores usan para hacer recomendaciones al final del proceso.
El convincente debate entre una poderosa computadora de IBM y varios humanos
"Estamos facilitando a las empresas que utilizan la inteligencia artificial una mayor transparencia y control paraafrontar el riesgo potencial de una toma de decisiones err�nea", explic� Beth Smith, directora general de Watson AI, el sistema de inteligencia artificial de IBM.
Microsoft es otra de las compa��as que est� trabajando en el tema.
La multinacional anunci� en mayo, durante su conferencia anual de desarrolladores, que est� trabajando en una herramienta para detectar sesgos en sus algoritmos.
"Por supuesto, no podemos esperar la perfecci�n, siempre habr� alg�n sesgo no detectado o que no se puede eliminar, el objetivo es hacer todo lo que podamos", dijo Rich Caruna, un investigador senior de la compa��a.
Facebook, perjudicada tras el esc�ndalo de Cambridge Analytica en abril, tambi�n declar� que est� probando una herramienta para determinar si su algoritmo genera errores.
Y lo mismo se aplica a Google, que la semana pasada lanz� un sistema para explicar a sus usuarios c�mo funcionan sus modelos de aprendizaje autom�tico.
Pero, �c�mo llegamos a este punto?
Un problema de diversidad
La dependencia en aprendizaje autom�tico y los algoritmos ha hecho que el problema de los sesgos sea cada vez m�s importante para la comunidad vinculada a iniciativas de Inteligencia Artificial.
"Y parte del problema es que las bases de datos empleadas para "entrenar" a los algoritmos no siempre es lo suficientemente diversa", explica la reportera de tecnolog�a de la BBC Zoe Kleinman.
Joy Buolamwini, por ejemplo, fund� la Liga de la Justicia Algor�tmica mientras cursaba estudios de postgrado en el MIT en 2016, luego de descubrir que un sistema de reconocimiento facial solo notaba su rostro si lo cubr�a con una m�scara blanca.
Y un a�o antes Google tuvo que disculparse cuando su algoritmo de clasificaci�n de fotos confundi� im�genes de personas negras con gorilas.
Google pide perd�n por confundir a una pareja negra con gorilas
Por eso hay un debate creciente sobre la �tica de la inteligencia artificial, dice Kay Firth-Butterfield, quien encabeza el programa de inteligencia artificial y aprendizaje autom�tico en el Foro Econ�mico Mundial,.
"Como abogada, algunas de las preguntas sobre c�mo averiguamos qu� hizo que un algoritmo funcionara mal me parecen muy interesantes", declar� Firth-Butterfield en una entrevista reciente con el canal de televisi�n estadounidense CNBC.
"Cuando hablamos sobre sesgos, nos preocupa sobre todo la visi�n de quienes crearon los algoritmos, y son sobre todo hombres j�venes y blancos, por eso necesitamos hacer que la industria sea mucho m�s diversa en Occidente", a�adi�.
Necesidad de protecci�n
Esos sesgos tambi�n pueden afectar a decisiones como el seguro m�dico, la escolaridad o el registro criminal, a medida que las decisiones gubernamentales se vuelven m�s automatizadas.
Y por eso AI Now -un instituto de investigaci�n que estudia las implicaciones sociales de la inteligencia artificial- sostiene en un reporte reciente que es vital que las agencias gubernamentales dejen de usar algoritmos "de caja negra".
"Los ciudadanos deber�an saber c�mo se toman las decisiones", dijo Kate Crawford, exinvestigadora en Microsoft y fundadora de AI Now.
"Son sistemas complejos, y se espera que sean todav�a m�s complejos a medida que las tecnolog�as de aprendizaje autom�tico se hacen m�s accesibles para las empresas", reconoci�.
Pero es precisamente por eso que "deber�amos tener procesos de protecci�n equivalentes para decisiones algor�tmicas que para decisiones humanas", sostiene la fundadora de AI Now.
