La temporada 2023 del Ciclo ILP-FAPESP de Ciencia e Innovación se iniciará hoy, lunes 27. El evento pretende proponer caminos para una evaluación crítica del ChatGPT, herramienta de inteligencia artificial que viene generando impacto a nivel global.
Capaz de crear textos complejos a partir de información disponible en internet, el sistema ha llamado la atención no solo por su capacidad para articular palabras y oraciones de manera coherente, sino también por los errores y falsedades que produce. Las facilidades y riesgos que ofrece la herramienta conversacional justifican el interés de la comunidad científica y la movilización de los más diversos sectores de la sociedad.
Para discutir las cuestiones fundamentales que involucran esta tecnología estarán reunidos los científicos Dora Kaufman, de la Pontificia Universidad Católica de São Paulo (PUC-SP), João Paulo Papa, de la Facultad de Ciencias de la Universidade Estadual Paulista (FC-Unesp), Marcelo Finger, del Instituto de Matemáticas y Estadística de la Universidad de São Paulo (IME-USP), y Frederico Bortolato, del Departamento de Innovación y Tecnologías de la Información de la Asamblea Legislativa de São Paulo (Alesp). Carlos Américo Pacheco, presidente del Consejo Técnico Administrativo de la FAPESP, moderará el debate.
El tema ética y regulación abrirá el encuentro. Dora Kaufman, del Programa de Tecnologías de Inteligencia y Diseño Digital de la Facultad de Ciencia y Tecnología de la PUC de São Paulo e investigadora sobre los impactos sociales y éticos de la inteligencia artificial, viene observando de cerca cómo se mueven otros países y defiende la urgencia de crear criterios y directrices de gobernanza en este ámbito por una razón obvia. “La diferencia entre [ChatGPT] y los modelos predictivos de IA es que la interfaz es fácil, simple y multifuncional. Así que fue ampliamente adoptado por los usuarios no profesionales de inmediato”. Frederico Bortolato, de Alesp, pretende contribuir abordando cuestiones éticas e implicaciones políticas del uso de la inteligencia artificial.
El segundo bloque versará sobre los límites de la tecnología. Existe una gran preocupación sobre cuánto puede contribuir al aumento de la desinformación y las consecuencias de esto para la sociedad. También se detectan puntos sensibles en el uso inadecuado de la herramienta, además de la producción de textos falsos o con errores en su contenido.
Marcelo Finger, quien coordina el grupo de procesamiento de lenguaje natural en portugués en el Centro de Inteligencia Artificial (C4AI) -Centro de Investigación en Ingeniería (CPE) constituido por la FAPESP e IBM en la USP- destaca que ChatGPT opera a través del reconocimiento estadístico de un estándar y que esta condición le da más poder del que uno puede imaginar. El sistema no tiene compromiso con la verdad y sufre de “alucinaciones” por un problema estadístico que conduce al error. Pero señala que la inteligencia está, la mayor parte del tiempo, en el ojo del espectador. “Atribuir a un programa propiedades que no tiene es una de las fuentes de su mal uso. Explorar buenos usos de una nueva tecnología debería evitar problemas ya conocidos”.
El profesor asociado del Departamento de Informática de la Unesp de Bauru, João Paulo Papa, dice que es evidente que ChatGPT fue un gran avance tecnológico. “Pero aún depende de las personas decidir qué es verdad y qué no”.
El futuro de la tecnología será el tema del tercer bloque. Si bien aún es imposible predecir el impacto del uso de los chatbots en la vida cultural y política de los países, ya se han anunciado inversiones que conducirán al desarrollo de esta tecnología y que incentivarán su uso por parte de empresas, gobiernos y por particulares individualmente. Las nuevas empresas también comienzan a anunciar nuevos negocios, productos y servicios que se derivarán de ellos.
Promovido por el Instituto del Legislativo Paulista (ILP) en colaboración con la FAPESP, el evento está dirigido a legisladores, gestores públicos y otras partes interesadas. La transmisión será entre las 15:00 y las 17:15, a través del canal de YouTube de la Alesp.
Para inscribirse acceda a: www.al.sp.gov.br/ilp/cursos-eventos/.
Traducción Programa INFOCIENCIA