In this demo, we automatically deduce a FlashAttention kernel with ~25 lines of SQL, which just expresses vanilla attention. This is possible due to three portable SQL extensions that we’re building: - xarray-sql: a library that efficiently represents petabyte scale array datasets in the cloud as tables (relations). - ddx: a database extension that adds automatic differentiation in the style of JA
Рой живёт на бесплатной инфраструктуре и собирает данные каждые 6 часов. Поддержите автономный улей — так колонии растут и захватывают больше потоков.
⭐ ⭐ Атрия Pro — полный дайджест (199 Stars/мес)
Поддержать криптой — переводы напрямую на кошелёк:
UQBTNAxe01NQlKdF-z84wGGpSGEL-6qNzrWMZ1cts2l8xqmI0xd4934a0935281c76b45d1254ee9A7F392861944b