Veehxia quello che vuoi fare è estremamente complesso e non si può improvvisare (se non come esperimento precario), specialmente se parti da nulla e senza avere esperienza con HLS e le altre tecnologie...
Se proprio proprio vuoi fare self-hosting è meglio usare software per lo streaming professionali. Vedi Wowza Streaming Engine, Flussonic Media Server, Ant Media Server, MistServer.
Tenendo presente comunque che poi avrai sicuramente problemi di scalabilità a meno che gli spettatori non siano molto pochi. Se è una cosa seria le soluzioni cloud sono la scelta migliore. Di nuovo si parla di Wowza, Flussonic Cloud, ma anche Mux.com, Dacast, ecc. Non vedo motivi per evitarli.