解：（1）如图1，

过点E作EH⊥OA于点H，EF与y轴的交点为M．

∵OE=OA，α=60°，

∴△AEO为正三角形，

∴OH=3，EH==3．

∴E（﹣3，3）．

∵∠AOM=90°，

∴∠EOM=30°．

在Rt△EOM中，

∵cos∠EOM=，

即=，

∴OM=4．

∴M（0，4）．

设直线EF的函数表达式为y=kx+4，

∵该直线过点E（﹣3，3），

∴﹣3k+4=3，

解得k=，

所以，直线EF的函数表达式为y=x+4．

（2）如图2，

射线OQ与OA的夹角为α（ α为锐角，tanα）．

无论正方形边长为多少，绕点O旋转角α后得到正方

形OEFG的顶点E在射线OQ上，

∴当AE⊥OQ时，线段AE的长最小．

在Rt△AOE中，设AE=a，则OE=2a，

∴a²+（2a）²=6²，解得a₁=，a₂=﹣（舍去），

∴OE=2a=，∴S_{正方形OEFG}=OE²=．

（3）设正方形边长为m．

当点F落在y轴正半轴时．

如图3，

当P与F重合时，△PEO是等腰直角三角形，有=或=．

在Rt△AOP中，∠APO=45°，OP=OA=6，

∴点P₁的坐标为（0，6）．

在图3的基础上，

当减小正方形边长时，

点P在边FG 上，△OEP的其中两边之比不可能为：1；

当增加正方形边长时，存在=（图4）和=（图5）两种情况．

如图4，

△EFP是等腰直角三角形，

有=，

即=，

此时有AP∥OF．

在Rt△AOE中，∠AOE=45°，

∴OE=OA=6，

∴PE=OE=12，PA=PE+AE=18，

∴点P₂的坐标为（﹣6，18）．

如图5，

过P作PR⊥x轴于点R，延长PG交x轴于点H．设PF=n．

在Rt△POG中，PO²=PG²+OG²=m²+（m+n）²=2m²+2mn+n²，

在Rt△PEF中，PE²=PF²+EF²=m²+n²，

当=时，

∴PO²=2PE²．

∴2m²+2mn+n²=2（m²+n²），得n=2m．

∵EO∥PH，

∴△AOE∽△AHP，

∴=，

∴AH=4OA=24，

即OH=18，

∴m=9．

在等腰Rt△PRH中，PR=HR=PH=36，

∴OR=RH﹣OH=18，

∴点P₃的坐标为（﹣18，36）．

当点F落在y轴负半轴时，

如图6，

P与A重合时，在Rt△POG中，OP=OG，

又∵正方形OGFE中，OG=OE，

∴OP=OE．

∴点P₄的坐标为（﹣6，0）．

在图6的基础上，当正方形边长减小时，△OEP的其中

两边之比不可能为：1；当正方形边长增加时，存在=（图7）这一种情况．

如图7，过P作PR⊥x轴于点R，

设PG=n．

在Rt△OPG中，PO²=PG²+OG²=n²+m²，

在Rt△PEF中，PE²=PF²+FE²=（m+n ）²+m²=2m²+2mn+n²．

当=时，

∴PE²=2PO²．

∴2m²+2mn+n²=2n²+2m²，

∴n=2m，

由于NG=OG=m，则PN=NG=m，

∵OE∥PN，∴△AOE∽△ANP，∴ =1，

即AN=OA=6．

在等腰Rt△ONG中，ON=m，

∴12=m，

∴m=6，

在等腰Rt△PRN中，RN=PR=6，

∴点P₅的坐标为（﹣18，6）．

所以，△OEP的其中两边的比能为：1，点P的坐标是：P₁（0，6），P₂（﹣6，18），

P₃（﹣18，36），P₄（﹣6，0），P₅（﹣18，6）．

正确解答该题的关键在于，根据题意分类讨论，灵活运用勾股定理进行计算．