Notas:

1:00 Entusiasmo sobre la inteligencia artificial

4:30 y los miedos correspondientes

7:30 la carrera profesional de Pablo

11:50 las primeras épocas de Core (2000)

15:00 la evolución de Core

18:20 últimas épocas en Core (2017) 

24:00 Disarmista, la consultora de Futo

26:00 observación de malware en entornos aislados  

28:30 malware y ransomware

33:00 El libro de Nicole Perlroth https://www.amazon.com/This-They-Tell-World-Ends/dp/1635576059

34:30 cómo entra Pablo en la inteligencia artificial

39:20 nuestra empresa, Gradient Defense https://gradientdefense.com/

43:40 los experimentos que viene haciendo Pablo: fine-tuning

51:30 los videos de Andrej Karpathy https://www.youtube.com/c/AndrejKarpathy

54:00 el blog post - Manchurian Candidate https://gradientdefense.com/blog/can-you-simply-brainwash-an-llm

58:Editando un modelo de lenguaje con un cambio puntual

1:02: el lejano oeste de los modelos de lenguaje 

1:04 cómo confiar en un modelo que generó otro

1:06 todos los modelos son modificados por cuestiones políticas

1:08 el abaratamiento de los costos de entrenamiento en el futuro

1:10 ¿hay casos de ejecución remota en servidor a partir de prompts?

1:15 la historia de Langchain y cómo habilita a los modelos para interactuar con el mundo

1:20 la metáfora del LLM como el pajarito de los Simpsons, y el aprendiz de brujo de Fantasía

1:22 muchos clientes piden simplemente educación

1:24 usando un LLM para encontrar exploits 

1:25 la tesis de Pablo: verificación formal de programas

1:29 AutoGPT buscando exploits

1:31 Phishing automatizado con LLMs

Notas:

Vengan a nuestro Discord.

1:00 - Historia de los modelos del lenguaje

3:30 Qué es un modelo transformer

4:30 Embeddings

6:00 Los de OpenAI (ada 002)

11:00 RHLF (aprendizaje reforzado por feedback humano)

12:00 el video de Andrej Karpathy (GPT desde cero, con código)

16:00 ¿Los modelos son creativos? (tangente, el video sobre cómo Nirvana combina elementos)

22:00 Detrás de escena son todos números.

25:00 El razonamiento implícito de los modelos. Los portales semánticos (por ejemplo, los sueños).

28:30 ¿Por qué los modelos del lenguaje no pueden hacer cuentas?

29:30 Aumentando los modelos con herramientas externas (ejemplo, LangChain)

33:00 ¿Los programadores se van a quedar sin trabajo?

36:00 Las abstracciones con pérdida (leaky abstractions) de Joel Spolsky

40:00 La historia de la programación desde el 80 hasta hoy

47:00 Daniel Kahneman, pensando rápido y despacio

49:30 El recall de Tesla por un bug.

53:00 La evolución del pensamiento humano comparado y su influencia en la IA.

55:00 La lucha permanente contra la escasez y el sufrimiento.

59:00 El experimento fallido de Microsoft.

1:01 Con un avión podemos ir más rápido pero también nos podemos estrellar si no tenemos cuidado (ventajas y desventajas de la tecnología)

1:03 La historia de OpenAI con Elon Musk

1:05 El "paperclip maximizer" y los escenarios de destrucción del mundo a manos de la IA.

1:10 Teller y el miedo de que la bomba atómica incendiara la atmósfera

1:11 El precipicio de Toby Ord

1:16 Los riesgos de la investigación

1:17 Tenemos que hacer un episodio más dedicado a la lingüística

1:18 Fernando en LinkedIn

Donde trabaja Fernando ahora, Lexalytics

Cátedra de la UBA

Fernando en Twitter

Notas:

Nuestro discord

0:00 - Principios, inspiración en Carl Sagan, la matemagia

3:00 - Conexión con Mariano Sigman y los inicios en la neurociencia

9:00 - El libre albedrío - el compatibilismo y el incompatibilismo (con las leyes de la física)

16:00 las posiciones de Sam Harris y Daniel Dennett

17:00 Daniel Wegner y la ilusión del control

20:00 qué significa ser una buena persona, más allá de los dogmas religiosos

29:00 el juego de hacer oscilar el péndulo, la copa, y la explicación científica

33:00 Nudge de Richard Thaler, el opt-in y el opt-out, la donación de órganos por default

37:00 el "Sludge"

40:00 Michael Gazzaniga y la neurociencia cognitiva

49:00 Los modelos del lenguaje y los argumentos basados en valores

51:00 El libro Tabú de Andrés

52:00 Derek Parfit

55:00 consensos sobre el aborto, la esclavitud, cómo llegamos a decidir qué quiere una sociedad como conjunto

1:03 la lucha contra la escasez de recursos

1:07 la transición del modelo malthusiano a la siguiente fase

1:08 el "largoplacismo" (longtermism)

1:10 Toby Ord y cuánto nos importan las personas futuras comparadas con las actuales

1:12 el precipicio, todas las formas en las cuales podría terminar la humanidad

1:15 cómo nos fuimos interesando en el tema del comportamiento humano

1:16 Dan Ariely, Robert Sapolsky

1:17 Charla TED de Andrés sobre la ciencia del levante

1:19 Carol Dweck

1:21 Peopleware

1:24 la construcción de software, los procesos y las organizaciones

1:27 los sesgos en los modelos de lenguaje

1:30 seres inteligentes distintos a nosotros, ¿cómo serían?

1:32 ¿puede haber conciencia en el silicio?

1:33 Her, Westworld, Ex Machina

1:35 Innate - qué cosas traemos de fábrica, qué cosas son probabilísticas y pueden activarse o no

1:42 la pareidolia y cómo vemos patrones en todos lados

1:45 el futuro en el que tenemos la memoria total de lo que hicimos y dijimos

1:47 lo que queremos a largo plazo y corto plazo

1:50 lo que Andrés busca transmitir a través de la docencia

1:53 la lotería de la vida, reflexión de Richard Dawkins

Notas:

00:35 El jiu-jitsu brasilero y su relación con la tecnología

08:05 El lado ofensivo de la seguridad

09:50 HBO (Hacked By Owls)

11:25 Los exploits

12:30 la memoria dinámica

14:40 los ejercicios de Gerardo Richarte para aprender exploits

15:50 El mercado de los exploits

20:10 El libro This Is How They Tell Me the World Ends: The Cyberweapons Arms Race

22:40 Cambios en la dinámica comercial

25:30 Los "bug bounties"

31:30 el hack a Jeff Bezos via un exploit de Whatsapp

33:30 ¿Podemos saber desde dónde nos hackearon? La atribución

38:10 Stuxnet

43:00 ¿Podemos defendernos de un gobierno?

48:50 Los problemas de seguridad más simples de una empresa

50:00 El primer contacto profesional con la seguridad

53:20 CodeQL

54:50 la experiencia dentro de Github

56:00 variant analysis

58:00 GitHub y la superficie de ataque

1:00:00 El supply chain de un proyecto

1:02:00 Xkcd obligatorio

1:03:00 Curl

1:05:40 La diferencia entre el trabajo de seguridad defensivo y el defensivo (el trabajo ingrato del arquero en el fútbol)

1:08:30 Microsoft (Presentacion de Andrew Cushman sobre el nuevo foco en seguridad)

1:15:00 Las empresas maduras que fueron creciendo lentamente y las que lo hicieron de golpe

1:16:50 El ransomware

1:19:30 El riesgo de las DAOs que crecen de repente

1:12:20 ¿Cómo organizar la seguridad defensiva dentro de Twitter?

1:25:40 Los "guardrails"

1:28:00 El testimonio de Mudge como "whistleblower" en Twitter

1:35:20 Evaluando la situación de un equipo al entrar a una empresa como CISO

1:38:45 “La seguridad está descentralizada”

1:34:00 Se fue la CISO de Twitter, Lea Kissner

1:43:30 ¿Por qué es interesante trabajar en Lyft?

1:44:30 Envoy y blog de Lyft.

1:46:20 El “blast radius” de un ataque

1:47:00 El post de vulnerability management

1:50:00 El “god mode” de Uber

1:51:20 El hack a Ashley Madison

1:52:30 El leak de Polar que reveló posiciones de personal militar

1:53:40 ¿Existe el CISO de un estado nación?

1:56:00 Las office hours de Nico

[Vengan al discord]

Notas:

Inicio - la industria de la seguridad

12:00 los desafíos del mundo blockchain

13:15 la historia de Mt Gox (Magic The Gathering Online Exchange)

18:20 La escena de Superman 3

30:35 las transacciones sandwich

36: ¿Se puede crear una puerta indestructible?

40:00: La vulnerabilidad de ssh que descubrieron en Core

43:35 La escena de Matrix Reloaded en la que Trinity usa el exploit de ssh 

44:50 los principios con Ivan y Emiliano

49:10 el entorno de programación y los lenguajes que le gustan a Futo

53:30 El autómata de la serpiente (video en el que lo explican bien con Rodolfo Kurchan)

55:45 El videojuego de Tron

58:00 El juego del Busy Beaver 

1:01 La matemática del siglo 20 y la indecibilidad 

1:07:55 Advent of Code 2022 

1:10:30 Top Coder, Code Forces, LeetCode,  Project Euler

1:14:45 Core Wars 

Competencia de programación de piedra papel y tijera 

Y del dilema del prisionero 

1:16:40 El programa “invencible” de Core Wars que meta-triunfaba

1:18:30 dos personas usando una computadora a la vez - pensamiento lateral

1:22:30 los contratos inteligentes y las vulnerabilidades ingeniosas

1:29:30 viajando en el tiempo a romper sistemas

1:35:10 ¿Quién gana al ajedrez, un programa antiguo en hardware moderno o viceversa?

1:38:20 Los profesores que tienen que detectar si los alumnos hacen trampa.

1:40:44 El deep fake en el hack de Binance.

1:43:00 La controversia de la trampa en el ajedrez con transmisores remotos

1:59:22 La charla de Nick Bostrom sobre la destrucción del mundo y el Whole Brain Emulation Roadmap

2:03:00 La biografía de John Von Neumann, muy recomendable.

2:04:15 La encripción homomórfica.

2:08:40 Las pruebas de conocimiento cero (zero-knowledge proofs).

2:09:40 ¿Qué busca Futo en un programador para Bittrap?

2:11:00 Imperial, uno de los juegos de mesa que le gusta a Futo.

Vengan al discord a darnos feedback.

Una charla bastante nerd con Galo Soler Illia, investigador en nanotecnología en la Universidad Nacional de San Martín en Argentina. Referente en la materia y galardonado con numerosos premios, recientemente el Bunge y Born.

Algunas cosas mencionadas:

La carrera de ciencias químicas en la Universidad de Buenos Aires

Las pantallas de tegnología Quantum Dot.

Andre Geim, que ganó el premio Nobel y también el Ig Nobel

El experimento del sapo levitando con magnetismo

Creando vida artificial en un laboratorio (segmento de Lex Fridman en inglés)

Qué es el grafeno y cómo hacerlo con cinta Scotch.

Charla: desde la nanotecnología a las aplicaciones reales por si quieren profundizar más

El galio, elemento 31.

Notas del episodio:

Vengan al Discord a darnos feedback

Satellogic - la empresa de Emiliano

Capitán Beto, el primer satélite que lanzaron

Manolito, el segundo

¿Qué es un CubeSat?

El programa Singularity por el que pasó en California

(el nombre viene de Vernor Vinge)

Core Security, la primera empresa de la que fue cofundador allá por los 90 junto con Iván Arce y otras luminarias

Si te interesa trabajar en Satellogic.

Recursos para aprender sobre el espacio y los satélites:

Space Mission Engineering: The New SMAD (Space Technology Library, Vol. 28)

Advanced Space Concepts de la NASA

En este episodio intentamos aclarar un poco qué quiere decir la frase "inteligencia artificial". ¿De qué software podemos decir que tiene inteligencia, y por qué? ¿Qué criterio usamos?

Necesitamos que nos den feedback, vengan al discord.

Cosas que mencionamos:

El algoritmo Minimax para resolver juegos como el tatetí.

Stockfish, uno de los mejores programas open source para analizar partidos de ajedrez.

La poda alfa-beta para limitar el espacio de búsqueda.

El algoritmo PageRank que hizo popular a Google.

El teorema de Bayes y los filtros bayesianos de spam.

Un video que cuenta cómo armar una red neuronal de cero.