XMPP es lo que buscas. soporta mensajería instantánea, llamadas, etc, es de código abierto con clientes para prácticamente todas las plataformas y sus servidores se comunican con otros servidores para conectar usuarios (federación).

Existe desde 1999, Google no lo mató, solo se llevó todos los usuarios y luego cambió el protocolo lo suficiente para que sus usuarios no se pudieran comunicar con usuarios de XMPP, por lo tanto fue perdiendo popularidad hasta el punto que muy pocas personas lo ocupan (imagina tratar de hacer que tu familia ocupe Telegram cuando todos tienen WhatsApp).