頂点が直線y=x−5の上にあるということは,頂点のx座標が「p」だとするとy座標は「p−5」になる,ということです。

頂点の座標は(p,p−5)とおくことができるので,求める2次関数は y=a(x−p)2
+p−5 ・・・@ と表せます。

点(2,−3)を通るので,−3=a(2−p)2+p−5  整理して,a(2−p)2=2−p ・・・A

点(3,0)を通るので,0=a(3−p)2+p−5  整理して,a(3−p)2=5−p ・・・B

ABの連立方程式を解くのはなかなか難しいですね。
色々な方法がありますが,今回はAの式に注目してみます。

p≠2のとき,2−pは0ではないから両辺を2−pで割って,a(2−p)=1
これより, a=  Bに代入すると, (3−p)2 =5−p
2−p 2−p
分母をはらい,(3−p)2=(5−p)(2−p)
         9−6p+p2=10−7p+p2
          p=1
 これより,a=1となる。この場合,求める2次関数はy=(x−1)2−4 です。(y=x2−2x−3

次に,先ほど排除したp=2の場合を考えましょう。

p=2のとき,Bに代入してa=3となりますから,2次関数はy=3(x−2)2−3 と求まります。
これは問題の条件を満たしていますから,答えとして認めてよいです。だから,もう1つの答えは
y=3(x−2)2−3です。(y=3x2−12x+9

--------------------------------------------------------------------

注:Aよりa(2−p)2−(2−p)=0なので,左辺を因数分解すると (2−p){a(2−p)−1}=0
  このことから自動的に
2−p=0の場合と,a(2−p)−1=0の場合とに分かれる,と考えることもできます。

注:今回はAの両辺が2−pで割れたので,比較的簡単に解くことができましたが,一般には片方の式を「a=・・・」の形に変形し,他方の式に代入して解かなければなりません。3次方程式になりますし,分母についての場合分けも必要ですから,かなり難易度は高くなります。