Pensamiento de diseño y marcos éticos para la Inteligencia Artificial: una mirada a la participación de las múltiples partes interesadas/Design Thinking and Ethical Frameworks for Artificial Intelligence: A Look at Multi-Stakeholder Engagement/Pensamento de design e estruturas éticas para Inteligencia Artificial: um olhar sobre a participagáo de múltiplas partes interessadas.
| Autor | Rojas, María Lorena Flórez |
| Páginas | 1(31) |
Introducción
En 2014 fue lanzado el Policy Lab en Reino Unido, el cual ha explorado la práctica del diseño de polÃÂticas públicas a través de la innovación y los enfoques centrados en las personas. El proyecto denominado "Una revisión independiente de la atención social a la infancia: Apreciar el contexto familiar más amplio", se hizo con el fin de auditar la polÃÂtica sobre asistencia social en la infancia (Sadar et al., 2022). El laboratorio se enfocó en los contextos familiares amplios, para comprender el impacto del sistema de asistencia social en las familias que lo utilizan. Adoptaron un enfoque etnográfico a través de relatos en videos e imágenes para comprender cómo experimentan los padres, tutores y niños el sistema existente. Al finalizar esta revisión, tanto los encargados del laboratorio como los responsables polÃÂticos, coincidieron que este material ayuda a demostrar a los agentes del gobierno cómo se siente este sistema para las familias de una manera auténtica. De esta forma, se evidencia que un cambio aparentemente pequeño puede significar el re-diseño de toda una polÃÂtica pública. Este ejemplo soporta la tesis de que el uso del pensamiento de diseño para la planificación estratégica de una determinada polÃÂtica pública puede facilitar un compromiso consciente del capital humano, el desarrollo de una infraestructura y una participación efectiva de las partes interesadas.
El pensamiento de diseño se ha adoptado como un marco de resolución de problemas que ofrece la posibilidad de mejorar productos, procesos y servicios con prácticas basadas en la innovación (Mayer et al., 2021, p. 23). Al centrarse en la colaboración, co-creación y la empatia, esta metodologÃÂa puede combinarse con herramientas de medición del impacto (Decker & Ladikas, 2004). Teniendo en cuenta que el pensamiento de diseño describe un modelo de innovación basado en la observación centrada en el ser humano, la colaboración y la creación de prototipos, no es un proceso estático o especÃÂfico, sino que involucra diversos métodos (Trischler et al., 2019, p. 1599). Algunos puntos clave de esta metodologÃÂa son la colaboración, inclusión y co-creación, los cuales hacen referencia a un simple mantra: "Todo el mundo tiene voz". Esa voz multipartes es finalmente lo que hace de este proceso algo legÃÂtimo y democrático. Será sobre este punto del pensamiento de diseño que esta investigación centra la discusión frente a la creación de estrategias de IA.
Esta investigación pretende demostrar que el enfoque del pensamiento de diseño, principalmente en su fase de co-creación, es potencialmente propicio para la creación e implementación de los denominados marcos éticos de la IA, debido a su énfasis en el diseño centrado en el ser humano y otros atributos fundamentales como la empatia, aunque plantea muchos retos para su aplicación. Con ello, se busca responder a la siguiente pregunta de investigación: ?Cómo el pensamiento de diseño puede garantizar la participación multipartes en la creación e implementación de marcos éticos para la IA?
Este estudio emplea una metodologÃÂa deductiva, a través del análisis de dos estrategias de IA, en su etapa de co-creación y participación de actores. Se basa en la dogmática legal, para la revisión de doctrina, principios, normas y conceptos, alrededor de la creación de estrategias de IA, con miras a determinar el acercamiento de estos a una participación multipartes y cómo se manifiesta esta co-creación en el proceso de diseño. Primero, se hace una descripción del pensamiento de diseño y el proceso de Evaluación de Impacto (EI). En segundo lugar, se describen dos estrategias de IA: la canadiense y la colombiana, enfocadas en la participación multistakeholder. En tercer lugar, se describe cómo a través de la aplicación del pensamiento de diseño se puede materializar la inclusión de las múltiples partes interesadas. En cuarto lugar, se desarrollan algunos desafÃÂos para la verdadera participación. Finalmente, se presentan algunas recomendaciones y conclusiones.
Pensamiento de diseño y Evaluación de Impacto (EI)
La definición de pensamiento de diseño no ha sido pacÃÂfica en la doctrina (Plattner et al., 2009). Sin embargo, algunos autores coinciden en que el pensamiento de diseño incluye aspectos comunes como el establecimiento de objetivos, la orientación centrada en el usuario, el seguimiento e iteración de un proceso y la participación de grupos interdisciplinares (Johansson-Skóldberg et al., 2013; Schallmo et al., 2018). Asi, el pensamiento de diseño es un proceso iterativo que busca entender a usuarios, desafiar suposiciones, redefinir problemas y crear soluciones innovadoras que se puedan prototipar y probar.
Este método ha ido transformándose desde la década de 1960, cuando fue considerado como un enfoque particular para la solución creativa de problemas (Archer, 1965; Arnold, 1959). Esta metodologÃÂa puede producir soluciones que satisfacen una necesidad novedosa o soluciones que satisfacen una necesidad antigua de una manera completamente nueva. De igual forma, desde ese momento se expresó la necesidad de ampliar el alcance del diseño convencional a otras disciplinas para complementarse.
Aplicar el pensamiento de diseño a un reto polÃÂtico se consideraba un asunto novedoso y un método diferente de enmarcar, investigar y resolver problemas polÃÂticos. Hoy en dÃÂa este método se ha adoptado en diversas industrias y espacios de creación de polÃÂticas. Aunque el enfoque del pensamiento de diseño existe desde los años sesenta (Thienen et al., 2018), ha resurgido un renovado interés por esta metodologÃÂa. En particular, frente a los desafÃÂos en temas de innovación, con un número creciente de vertientes que le apuntan a una estructura basada o centrada en el usuario como, por ejemplo, la privacidad por diseño y por defecto (Cavoukian, 2012); los análisis de impacto regulatorios y tecnológicos (Decker & Ladikas, 2004); y el diseño legal. De esta forma, el pensamiento de diseño sigue calando en áreas no exploradas identificando nuevos métodos que podrÃÂan mejorar la forma en que se elaboran, prueban y aplican las polÃÂticas (Bason & Austin, 2021).
AsÃÂ, se puede afirmar que el pensamiento de diseño tiene el potencial de mejorar la definición de los problemas y el diseño de mecanismos en los procesos de elaboración de polÃÂticas públicas (Mintrom & Luetjens, 2016). En efecto, al promover una mayor comprensión de la forma en que los ciudadanos experimentan el acercamiento con el Estado, el pensamiento de diseño puede ayudar a los formuladores de polÃÂticas a incrementar el valor público en los ciudadanos y su consecuente confianza.
De otro lado, la EI es un proceso estructurado que considera las implicaciones--para las personas y su entorno--de las acciones propuestas, mientras todavÃÂa existe la oportunidad de modificar o incluso, si procede, abandonar las propuestas (Howard, 2009). Esta metodologÃÂa se aplica a todos los niveles de la toma de decisiones, desde las polÃÂticas hasta los proyectos concretos. AsÃÂ, la EI implica la identificación y caracterización de los impactos más probables de las acciones propuestas y una valoración de la importancia social de esos impactos.
El objetivo de la EI es proporcionar información para la toma de decisiones que analice las consecuencias sociales, económicas e institucionales de las acciones propuestas, promoviendo la transparencia y la participación del público en la toma de decisiones de cualquier organización (Sara, 2020). Entre los principales tipos de EI se encuentran, las EI de polÃÂticas públicas, EI ambientales y EI estratégicas, entre otras. Esta metodologÃÂa ha sido adoptada por diversas organizaciones nacionales e internacionales para identificar el impacto, o el posible impacto, de una regulación, de una industria e incluso de una tecnologÃÂa en un determinado espacio (Kim & Wolf, 2014).
El proceso de EI beneficia a los proponentes, las partes interesadas y las comunidades locales, asi como a los responsables de la toma de decisiones (Howard, 2009). Aunque la EI ha sido criticada desde su introducción por ser una herramienta tecnocrática, basada en modelos racionales de toma de decisiones, las directrices y principios contemporáneos para la práctica de la EI tienden a enfatizar el "enfoque participativo e inclusivo", que reconoce diferentes tipos de conocimiento, y la importancia de representar los puntos de vista de diferentes grupos de la sociedad, independientemente de su estatus económico y politico (Renda et al., 2013; Sara, 2020).
Todas estas formas de EI comparten los mismos principios básicos, la metodologÃÂa y la finalidad, pero pueden diferir en cuanto a métodos y técnicas especificas. En los últimos años, la EI se ha vinculado fuertemente a los conceptos de sostenibilidad, y algunos aseguran que la sostenibilidad es parte integrante de todas las actividades de EI (Pope et al., 2013; Therivel, 2020). Por otra parte, es posible realizar EI en otros contextos polÃÂticos y de valores, sin referencia directa o indirecta al pensamiento de sostenibilidad, el cual implica la valoración de los cambios a largo plazo y/o significativos, producidos por una intervención de desarrollo o una serie de intervenciones. Asi, la evaluación de impacto no es una herramienta o metodologia. En cambio, puede llevarse a cabo mediante muchas herramientas, metodologÃÂas--pensamiento de diseño--y enfoques diferentes.
En este sentido, tanto los crÃÂticos como los entusiastas...
Para continuar leyendo
Solicita tu prueba