Notas:

1:00 Entusiasmo sobre la inteligencia artificial

4:30 y los miedos correspondientes

7:30 la carrera profesional de Pablo

11:50 las primeras épocas de Core (2000)

15:00 la evolución de Core

18:20 últimas épocas en Core (2017) 

24:00 Disarmista, la consultora de Futo

26:00 observación de malware en entornos aislados  

28:30 malware y ransomware

33:00 El libro de Nicole Perlroth https://www.amazon.com/This-They-Tell-World-Ends/dp/1635576059

34:30 cómo entra Pablo en la inteligencia artificial

39:20 nuestra empresa, Gradient Defense https://gradientdefense.com/

43:40 los experimentos que viene haciendo Pablo: fine-tuning

51:30 los videos de Andrej Karpathy https://www.youtube.com/c/AndrejKarpathy

54:00 el blog post - Manchurian Candidate https://gradientdefense.com/blog/can-you-simply-brainwash-an-llm

58:Editando un modelo de lenguaje con un cambio puntual

1:02: el lejano oeste de los modelos de lenguaje 

1:04 cómo confiar en un modelo que generó otro

1:06 todos los modelos son modificados por cuestiones políticas

1:08 el abaratamiento de los costos de entrenamiento en el futuro

1:10 ¿hay casos de ejecución remota en servidor a partir de prompts?

1:15 la historia de Langchain y cómo habilita a los modelos para interactuar con el mundo

1:20 la metáfora del LLM como el pajarito de los Simpsons, y el aprendiz de brujo de Fantasía

1:22 muchos clientes piden simplemente educación

1:24 usando un LLM para encontrar exploits 

1:25 la tesis de Pablo: verificación formal de programas

1:29 AutoGPT buscando exploits

1:31 Phishing automatizado con LLMs

Notas:

Vengan a nuestro Discord.

1:00 - Historia de los modelos del lenguaje

3:30 Qué es un modelo transformer

4:30 Embeddings

6:00 Los de OpenAI (ada 002)

11:00 RHLF (aprendizaje reforzado por feedback humano)

12:00 el video de Andrej Karpathy (GPT desde cero, con código)

16:00 ¿Los modelos son creativos? (tangente, el video sobre cómo Nirvana combina elementos)

22:00 Detrás de escena son todos números.

25:00 El razonamiento implícito de los modelos. Los portales semánticos (por ejemplo, los sueños).

28:30 ¿Por qué los modelos del lenguaje no pueden hacer cuentas?

29:30 Aumentando los modelos con herramientas externas (ejemplo, LangChain)

33:00 ¿Los programadores se van a quedar sin trabajo?

36:00 Las abstracciones con pérdida (leaky abstractions) de Joel Spolsky

40:00 La historia de la programación desde el 80 hasta hoy

47:00 Daniel Kahneman, pensando rápido y despacio

49:30 El recall de Tesla por un bug.

53:00 La evolución del pensamiento humano comparado y su influencia en la IA.

55:00 La lucha permanente contra la escasez y el sufrimiento.

59:00 El experimento fallido de Microsoft.

1:01 Con un avión podemos ir más rápido pero también nos podemos estrellar si no tenemos cuidado (ventajas y desventajas de la tecnología)

1:03 La historia de OpenAI con Elon Musk

1:05 El "paperclip maximizer" y los escenarios de destrucción del mundo a manos de la IA.

1:10 Teller y el miedo de que la bomba atómica incendiara la atmósfera

1:11 El precipicio de Toby Ord

1:16 Los riesgos de la investigación

1:17 Tenemos que hacer un episodio más dedicado a la lingüística

1:18 Fernando en LinkedIn

Donde trabaja Fernando ahora, Lexalytics

Cátedra de la UBA

Fernando en Twitter

Notas:

Nuestro discord

0:00 - Principios, inspiración en Carl Sagan, la matemagia

3:00 - Conexión con Mariano Sigman y los inicios en la neurociencia

9:00 - El libre albedrío - el compatibilismo y el incompatibilismo (con las leyes de la física)

16:00 las posiciones de Sam Harris y Daniel Dennett

17:00 Daniel Wegner y la ilusión del control

20:00 qué significa ser una buena persona, más allá de los dogmas religiosos

29:00 el juego de hacer oscilar el péndulo, la copa, y la explicación científica

33:00 Nudge de Richard Thaler, el opt-in y el opt-out, la donación de órganos por default

37:00 el "Sludge"

40:00 Michael Gazzaniga y la neurociencia cognitiva

49:00 Los modelos del lenguaje y los argumentos basados en valores

51:00 El libro Tabú de Andrés

52:00 Derek Parfit

55:00 consensos sobre el aborto, la esclavitud, cómo llegamos a decidir qué quiere una sociedad como conjunto

1:03 la lucha contra la escasez de recursos

1:07 la transición del modelo malthusiano a la siguiente fase

1:08 el "largoplacismo" (longtermism)

1:10 Toby Ord y cuánto nos importan las personas futuras comparadas con las actuales

1:12 el precipicio, todas las formas en las cuales podría terminar la humanidad

1:15 cómo nos fuimos interesando en el tema del comportamiento humano

1:16 Dan Ariely, Robert Sapolsky

1:17 Charla TED de Andrés sobre la ciencia del levante

1:19 Carol Dweck

1:21 Peopleware

1:24 la construcción de software, los procesos y las organizaciones

1:27 los sesgos en los modelos de lenguaje

1:30 seres inteligentes distintos a nosotros, ¿cómo serían?

1:32 ¿puede haber conciencia en el silicio?

1:33 Her, Westworld, Ex Machina

1:35 Innate - qué cosas traemos de fábrica, qué cosas son probabilísticas y pueden activarse o no

1:42 la pareidolia y cómo vemos patrones en todos lados

1:45 el futuro en el que tenemos la memoria total de lo que hicimos y dijimos

1:47 lo que queremos a largo plazo y corto plazo

1:50 lo que Andrés busca transmitir a través de la docencia

1:53 la lotería de la vida, reflexión de Richard Dawkins