A: Whose pencil is this? B: (　　　).

「Whose ...?」は「誰の〜ですか？」と、ものの持ち主をたずねる表現です。Aさんは「Whose pencil is this?（これは誰の鉛筆ですか？）」と聞いています。持ち主をたずねられているので、「それは私のです。」と答えるのが自然です。「mine」は「私のもの」という意味なので、「It's mine.」が正解になります。