ターミナルは、部品屋で一個１００円位から入手可能です。
秋葉原でウロウロしていたら見つかると思います。
ユニットから生えっぱなしだと自由がきかないので
ターミナルはオススメです。

プレーヤーとアンプですがm_sagamiさんの仰有るとおりです。
最初は一体型コンポで十分だと思います。
パソコンのスピーカーに付いてるアンプよりは格段に良いでしょう
一体型コンポに付いてるスピーカーと音を比べる事もできます。
安く、少しずつ良い物を揃えていくなら・・
家にＤＶＤプレーヤー等があれば、アンプだけでＯＫです。