Open Upload ofrece precisamente eso, si tienes un servidor con PHP5, una base de datos MYSQL opcional, ya puedes montarte tu megaupload casero y de código abierto.
De todos modos la alternativa real es un cliente torrent al gusto, demonoid o The Pirate Bay, subdivx o subtitulos, por poner unos pocos ejemplos, y a rodar.