andrea bozzo / personal home page

← Tutti i progetti

projects / tabular-evolution-corpus

Python · Parquet · Schema evolution · Hugging Face

Tabular Evolution Corpus

Piccoli scenari Parquet versionati di dataset che cambiano forma nel tempo.

Trentacinque scenari deterministici registrano cosa cambia tra una versione e l’altra: schemi, mutazioni strutturali, righe e valori. Un validatore ricava di nuovo ogni fatto dichiarato dai file. Il corpus lascia le decisioni di compatibilità al sistema sotto test ed è pubblicato anche su Hugging Face.

Aggiornato da fonti pubbliche ·

Osservazioni, non verdetti

Gli adapter leggono ogni transizione con PyArrow, DuckDB, Polars e Delta Lake, in entrambi gli ordini dei file, e registrano il tipo risultante o l’errore sollevato da ciascun motore. Sul corpus 0.2.0 motori e modalità divergono su 26 transizioni su 36. Le registrazioni sono legate a versione del motore, revisione del corpus e piattaforma.

Segnalazioni upstream

Ogni risultato viene riprodotto fuori dal corpus e verificato contro i duplicati prima della segnalazione. Le issue aperte riguardano un fuso orario perso o applicato a seconda dell’ordine dei file in Polars, una lettura union_by_name che fallisce su testo non ASCII in DuckDB e due append in delta-rs: uno che tronca in silenzio valori float64 in una colonna int64, e un merge di schema che aggiunge una nuova colonna come non nullable.