Linuxでのアプリケーションアップグレードの流儀について

Linux使いだして結構経ってるんだけど、あやふやなまま進んでることの一つに、
「アプリケーションをアップグレードするときって、旧バージョンを消さないのがLinuxの流儀？」ということ。
Linuxの場合、/usr/local直下にインストールすると、インストールしたアプリを削除するのはほぼ不可能（なぜなら、どれがそのアプリに関係するファイルなのかわからなくなるから）と俺は思っているんだけど、これ削除する方法あるのかね？
make uninstallとかは、対応してないやつとかあるしね。
となると、アップグレードしたいときは上書きインストールになるんだけど、これでいいのかなぁ？
本当にきっちり管理したければ、prefixを/usr/local/gcc-4.4.3みたいにして、インストール先をアプリ毎に明確にして、/usr/local/gcc みたいにシンボリックリンクを張って運営することになるんだけど、
これが正しいのかどうかもイマイチ不安。
パッケージ管理はLinuxがWindowsに劣っているところだと思うんだけど、どうやるのが正統派なんだろうか？