コミットしてしまったファイルをリポジトリから削除する

『リポジトリ作成した時点で余分なファイルもコミットしてたよ。』
『まぁいいよね、みんな余分なファイルごと持っていくといいよ！』

胸張っているけど全然良くないよ。さっさと削除してください。
では.gitignoreではなくリポジトリに対してrmコマンドで対象のファイルを削除しましょう。

>> git rm hoge.txt

ディレクトリ配下ごと削除したい場合は-rオプションを指定します。

>> git rm -r hoge/bin/

リポジトリから削除したら監視対象から外すように忘れずに.gitignoreへ追記しておこう

なお、上記のコマンドだとワーキングディレクトリからも削除してしまいますが、
リポジトリには含めたくないだけでローカルには残しておきたい場合は--cachedオプションを指定します。

>> git rm --cached hoge.txt