服务器部署开源大模型完整教程 Ollama+Gemma+open-webui

现在开源的大模型其实挺多的,今天搭建Gemma这个谷歌开源的大模型,但是你想搭建别的只要你看完你都会了。

介绍

Ollama:一款可以让你在本地快速搭建大模型的工具

官网:https://ollama.com/

github:https://github.com/ollama/ollama

Gemma:谷歌开源的大模型

open-webui:非常不错的大模型webui

github:https://github.com/open-webui/open-webui

开始搭建

第一步选择系统版本:

因为大模型需要的GPU来运算,当然其实CPU也可以,但我们今天讲的是要用GPU来跑的,所以我们在购买服务器的时候,一定要选择GPU服务器,然后看看服务器的系统版本对GPU显卡支持的更好

这里我选择的是阿里的Alibaba Cloud Linux 3.2104 LTS 64位

第二步部署Ollama

部署ollama非常简单直接输入:

curl -fsSL https://ollama.com/install.sh | sh

等待安装完成后,就如下图:

你还可以输入:ollama 看看一些基本操作

因为我们需要开放API,ollama的开放端口是11434,我们在服务器商那边打开11434端口,然后直接ip:11434进行访问。

这时候我就发现了ollama的一个坑,我们在成功启动ollama的时候就已经直接占用了11434端口,但是我们直接访问发现是无法访问的,通过防火墙各种排查发现是ollama的配置文件里面出现了问题,解决方法如下:

直接输入:

sudo vi /etc/systemd/system/ollama.service

按i进入插入模式,在ExecStart=/usr/local/bin/ollama serve上面插入:Environment=”OLLAMA_HOST=0.0.0.0:11434″

ESC再输入:wq回车保存

我们直接重启服务器,重启后输入:ollama

然后在打开ip:11434就可以直接访问了

这样就是成功了

第三步部署:Gemma

gemma是靠ollama来部署的,所以我们直接输入:

ollama run gemma

耐心等待部署完成,如下图:

完成后我们可以直接进行提问,这就好啦!

第四步部署:open-webui

因为open-webui是在Docker里面部署的,所以我们需要先部署Docker,因为我是用的阿里云的Alibaba Cloud Linux 3系统,所以我直接是按照阿里云的官方教程来的,建议你们也是按照自己的系统去安装Docker,我就不过多的说了。

安装open-webui直接输入:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

如果你直接输入的话你就入坑了,如果你的服务器是国内的话,直接下载ghcr.io的镜像简直就是折磨,下一天都不一定下的完,所以我们需要改一下,把ghcr.io改成ghcr.nju.edu.cn再输入:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main

这样就嘎嘎的快,像上面这样就成功了

我们再输入:

sudo docker images

查看一下当前的容器,然后再输入我们要启动的容器:

docker run -d ghcr.nju.edu.cn/open-webui/open-webui

如下图:

我们再把open-webui的端口3000去打开一下,直接访问IP:3000就可以啦

注册一个账号进去

在设置里面看看ollama连接状态是成功的就好了,直接用起来吧!

WordPress安全设置

xmlrpc.php 他的主要作用自行百度,不建议直接删除,用nginx做禁止就好:

location = /xmlrpc.php { deny all; }

管理员账户泄露

https://你的域名/wp-json/wp/v2/users/  的URL进行GET,这样99%会返回一串信息,里面包含了你的管理员账户

用nginx做禁止就好:

location ~ ^/wp-json/wp/v2/users { deny all;}

是否使用了wordpress程序

https://你的域名//wp-includes/wlwmanifest.xml  的URL进行GET,来判断你是否使用了Wordpress程序。以及你的后台登录地址!输入后你会得到这样的反馈。所以修改后台登录地址很重要

用nginx做禁止就好:

location ~ ^/wp-includes/wlwmanifest.xml {deny all;}

总结在nginx中增加:

location = /xmlrpc.php { deny all; }
location ~ ^/wp-includes/wlwmanifest.xml {deny all;}
location ~ ^/wp-json/wp/v2/users { deny all;}

就行了

前进

没有人可以阻挡你前进的步伐。

你想做的事,你永远都不会后悔。

这世界那么大,你还有很多地方没有去过。

你应该为自己想想,自己的生活。

不要再放弃。

不要再放弃。

未完待续。。。

【古装女子群像】一颦一笑亦戏亦泪-所有台词

你闻
今晚的风是杜鹃花香
你有很多种样子
浓妆 淡妆 男装 没化妆
还有如梦如幻月,若即若离花
此处的花根本不能算花
真正的花开在山野浪漫处
只要你能使我高兴
我便带你去山野浪漫处
他一定是一个不平凡的人
错不了
我知道有一天
他会在一个万众瞩目的情况下出现
身披金甲圣衣
脚踏七色云彩来娶我
我不是跟你说过
女孩子把眼睛闭起来
就是要你亲她的嘛
虽然我很喜欢她
但我始终没有告诉她
因为我知道得不到的东西永远都是最好的
在我最美好的时候
我最喜欢的人都不在我身边
我爱你
以前我认为那句话很重要
因为我觉得有些话说出来
就是一生一世
现在想想
其实说不说都没有什么分别
因为有些事是会变的
我心里根本没有你
我爱过一个人
一心想要和他在一起
他说他爱我
我相信了
你有过人的体温吗
有过心跳吗
闻过花香吗
看得出天空的颜色吗
你流过眼泪吗
世上有人爱你情愿为你去死吗
你们说人间有情
但是情为何物呢
记着
动情的时候
你的死期就到了
是你逼我杀你的
有些人是离开以后
才发现离开了的才是自己最爱的
我只是要你对我好一点
我好羡慕你
有一个人爱你
可以为你去死
也许死了
就结束了
你这一生
到底有没有
真正爱过一个人

只是付出的代价很大
值得吗
值得吗
值得
曾经有一份真诚的爱情放在我面前
我没有珍惜
等我失去的时候
我才后悔莫及
人世间最痛苦的事莫过于此
如果上天能够给我一个再来一次的机会
我会对那个女孩子说三个字
我爱你
如果非要在这份爱上加个期限
我希望是
一万年
一万年
太久
就爱我
现在
我的意中人是个盖世英雄
有一天他会踩着七色的云彩来娶我
我猜中了前头
可是我猜不着
这结局
我曾经问过我自己
你最喜欢的女人是不是我
现在我已经不想再知道了
如果有一天我忍不住问起
你一定要骗我
就算你的心有多么不愿意
也不要告诉我你最喜欢的人不是我
我的心里
一直有一个人
不是你
今生今世
我们所走的路都错了
时间不对
地点也不对
只要动情
就一定会有伤心泪
这是什么
也好
还不知道眼泪是什么
等知道了你就痛苦了
人心是暖的
眼泪是苦的
杜鹃花
真的很香
这个胭脂盒
我挂了五十三年
现在还给你
我不想再等了
我一死何足惜呢?
不过就是怕人言可畏,
人言可畏啊。

【古装女子群像】一颦一笑亦戏亦泪

苹果cms-SEO优化之robots.txt的设置

如题,其实也没什么就是关于苹果cms的一个SEO优化的robots.txt文件的设置。

废话不多说,robots.txt文件我就不过多解释了,相信可以看到这篇文章的人都是已经知道了的。

下面是robots.txt:

User-agent: * #开头必备 User-agent:之后接蜘蛛名称 *代表所有
Disallow: /cache #禁止目录
Disallow: /images
Disallow: /inc
Disallow: /js
Disallow: /player
Disallow: /template
Disallow: /k
Disallow: /.
Allow: /?m=vod-type-id-*.html$ #允许的目录
Allow: /?m=vod-type-id-*-pg-*.html$
Allow: /?m=vod-detail-id-*.html$
Allow: /?m=vod-play-id-*-src-*-num-*.html$
Allow: /index.php?m=vod-search
Allow: /index.php?m=vod-list-id-*-pg-*-order-*-by-*-class-*-year-*-letter-*-area-*-lang-.html$
Allow: /?m=gbook-show.html$
Allow: /index.php?m=gbook-show-pg-*.html$
Sitemap: http://www.xxx.com/index.php?m=map-baidu.html #网站的Sitemap
Sitemap: http://www.xxx.com/index.php?m=map-google.html
Sitemap: http://www.xxx.com/index.php?m=map-360.html

好了这里就简单的解释一下上面的这些东西吧~

Disallow: /cache

像这个就代表 只要是cache开头的文件或者文件夹都是禁止的,如果你的后台是KQWEQ

那么你就可以这样Disallow: /k 设置即使别人看到了你的robots.txt也猜不到你的后台地址

Allow: /?m=vod-type-id-*.html$

这个就是允许的目录,然后这里是一个简单的规则 *前面说了代表所有,然后$这个是代表结束,所以这里就把分类页的给允许了然后接下去那些大概都是这样的。

Sitemap: http://www.xxx.com/index.php?m=map-baidu.html

这个就是网站的Sitemap 没什么了。

然后最后说一下就是关于360提交Sitemap的时候360只支持xml和txt还有一个上面格式忘记了,反正就是不支持html提交的,所以在提交的时候可以自己做一个,用自定义模板文件。

在模板目录创建一个文件:label_360.xml

然后在里面写:

<?xml version="1.0" encoding="utf-8"?>
<urlset>
{maccms:vod num=500 page=true order=desc by=time}
<url>
<loc>http://{maccms:url}[vod:link]</loc>
<lastmod>[vod:time style=Y-m-d H:i:s]</lastmod>
<priority>0.6</priority>
</url>
{/maccms:vod}
</urlset>

这样就好了,地址是http://www.xxx.com/index.php?m=label-360.xml 然后输出500个地址。

好了没了,很多地方没写好的,各位请见谅。

cloudflare 出现不明js

在使用cloudflare的时候以前一直没有注意过,可能看到了知道是cloudflare带上的也没有在意,因为就是一个js而已你都用他家cdn了人家想搞你不是随随便便,所以就是没有在意,而最近看到百度推出的mip貌似挺不错的,就想去弄弄,结果在最后在本地测试好了之后,弄上服务了之后发现了这东西

<script data-cfasync=”falsesrc=”/cdn-cgi/scripts/af2821b0/cloudflare-static/email-decode.min.js”></script>

它会出现在你页面的最后,然后我就炸了,因为百度的mip明确规定不能加载js的,所以计划瞬间泡汤。

最后我在找了好几个用cloudflare 的站点查看之后发现有一个站点没有,所以我就知道了这个东西肯定是可以删除的,我就去后台各种删除各种看,最后还是一无所获,最后加了一个cloudflare的群,问了里面的大佬才知道怎么弄。

然后原谅我英文差到爆,最后开了翻译。就是第一个惹的祸,关闭就好了。
弄完之后我才想起来在我找怎么弄的时候我就试过随便一个页面会有吗?然后我就随便弄了一个页面发现没有,其实这个东西就是在有邮箱的时候才会出现的。

随记

名字本来想叫日记的,但是想想日记岂不是说每天都有?想了半天憋出个随记,哎。。。。文笔不好就是恶心啊~

前段时间我去翻过我以前写的一些东西,特别是我毕业的时候写的那些,想想我毕业也快两年了,时间真的过的好快,而我还是一样的迷茫,似乎永远都不知道自己想要的是什么,也不止一次想要结束这漫长的一生。

在我毕业后的这一年多里面,我从最开始的上班,到后面的辞职,自己做网站,先后做了两个网站(一些没有做成功的就不算了),这里就不列出来了,因为都被我关闭了,靠着做网站的钱,前段时间买了一辆车,不是什么高端的车适合家用的因为爸妈说别人家都买了,我们也买一辆吧!这车空间也大挺合适的。

想想我真的挺失败的,一年多就只有几万块钱而已,现在我又退回了原点,又要去找工作上班了,工作真的很难找,对于我这种没有什么工作经验的人来说,我自己做的网站都是属于灰色行业,相对来说要好做一些,我是这样觉得的,还有就是我很不善交流,在公司里面混不开,我从来都是一个人,真的习惯了。

我不发QQ空间也不发朋友圈,微博也感觉不适合,本来在平行世界里面发发牢骚的,结果感觉里面也不合适,最后还是回归我们的大互联网吧~

帝国cms分页数调用参数

帝国cms分页数调用参数

在实现最终效果一共用到了三个参数:

[!–pagetitle–]  文章名称

[!–page.count–] 总分页数

[!–page.on–] 当前分页数

好了至于你怎么去用我就不管了,实现这个效果只需要一步

网站根目录\e\class\functions.php

大概在3555行和3568行这两个地方添加:

$string=str_replace(‘[!–page.count–]’,$thispagenum,$string);
$string=str_replace(‘[!–page.on–]’,$j,$string);

如图显示:

好了 后面的就自己去调用了。